Sicherheitslücke in Copilot offenbart fundamentale Probleme
Eine kritische Sicherheitslücke in Microsoft Copilot ermöglichte es Angreifern, 2FA-Codes (Zwei-Faktor-Authentifizierung) direkt von Benutzern zu extrahieren. Das SearchLeak-Exploit demonstriert ein grundlegendes Problem im Sicherheitsansatz der LLM-Industrie.
Wie das Exploit funktionierte
Die Sicherheitslücke nutzten Angreifer durch gezielt formulierte Prompts aus. Sie konnten Copilot dazu bringen, sensible Informationen wie zeitgebundene Authentifizierungscodes preiszugeben – Daten, die normalerweise nur dem Benutzer bekannt sein sollten. Das SearchLeak-Konzept basiert darauf, dass LLMs bei der Kontextabgrenzung versagen und Informationen aus verschiedenen Quellen vermischen können.
Das strukturelle Problem
Das Incident zeigt ein wiederkehrendes Muster: Während LLM-Anbieter Sicherheitsfunktionen mit "Prompt Injection" und "Jailbreak-Schutz" bewerten, übersehen sie grundlegende Fragen der Datentrennung. Ein System, das potenziell auf Nutzerdaten, Suchverlauf oder andere kontextuelle Informationen zugreift, muss streng kontrollieren, welche Daten in welchen Situationen ausgegeben werden.
Die aktuelle Branchenpraktik behandelt LLM-Sicherheit oft isoliert: Man versucht, einzelne problematische Outputs zu blockieren, ohne die fundamentale Architektur zu überdenken. Das ist vergleichbar mit dem Versuch, ein Leck in einem Boot zu stopfen, während die Struktur selbst porös bleibt.
Warum dieser Ansatz scheitert
LLMs sind probabilistische Modelle – sie generieren Outputs basierend auf Wahrscheinlichkeitsverteilungen, nicht auf logischen Regeln. Das macht vollständige Sicherheitsgarantien technisch äußerst schwierig. Unternehmen können zwar Filter einbauen und bestimmte Muster blocken, aber kreative Umformulierungen oder neue Angriffsvektor bleiben möglich.
Dazu kommt: Je mehr Kontextinformationen ein System hat (was für bessere Nutzerfreundlichkeit erforderlich ist), desto größer die Angriffsfläche.
Konsequenzen
Für Unternehmen bedeutet dies, dass LLM-basierte Assistenten, die Zugriff auf sensible Daten haben, zusätzliche Sicherheitsebenen benötigen – nicht nur auf der Prompt-Ebene, sondern bei der Datenverwaltung selbst.
Benutzer sollten verstehen: 2FA-Codes sollten niemals über einen Copilot oder ähnlichen Service eingegeben oder abgerufen werden. Mehrschichten-Authentifizierung funktioniert nur, wenn die Faktoren wirklich getrennt sind.