Copilot-Lücke offenbart strukturelle Sicherheitsprobleme
Eine kritische Sicherheitslücke in Microsoft Copilot ermöglichte es Angreifern, Two-Factor-Authentication-Codes (2FA) von Nutzern abzufangen. Der sogenannte SearchLeak-Exploit zeigt ein wiederkehrendes Problem: Die Industrie behandelt Large Language Models (LLMs) bei der Sicherheit immer noch wie traditionelle Software – mit unzureichenden Resultaten.
Was ist SearchLeak?
Die Lücke ermöglichte es, sensible Informationen über die Suche nach Inhalten auf dem System zu extrahieren. Angreifer konnten diese Funktionalität ausnutzen, um in Echtzeit an 2FA-Codes zu gelangen – einer der letzten Schutzwall gegen unbefugten Zugriff. Das Problem: Copilot war nicht ausreichend isoliert vom Zugriff auf solch kritische Authentifizierungsdaten.
Warum schlägt der aktuelle Sicherheitsansatz fehl?
Die Sicherheitsarchitektur für LLMs basiert oft auf denselben Prinzipien wie konventionelle Anwendungen: Firewall-Regeln, Zugriffskontrolle, Input-Validierung. Doch LLMs operieren anders. Sie sind universelle Interpreter – jede Information, die sie zu sehen bekommen, kann potenziell extrahiert werden, wenn der richtige Prompt oder die richtige Umgebung vorhanden ist.
SearchLeak demonstriert: Es reicht nicht aus, Daten zu sperren. Man muss verhindern, dass LLMs überhaupt Zugriff auf sensible Information erlangen, die sie nicht benötigen.
Die praktischen Konsequenzen
Nutzer, deren 2FA-Codes von Angreifern abgefangen wurden, konnten ihre Konten nicht mehr schützen – selbst wenn Passwort stark genug war. Das ist ein Szenario, das bei herkömmlicher Software längst gelöst sein sollte.
Was die Industrie ändern muss
Der Fall zeigt, dass Segregation von Systemzuständen und Zugriffsrechten für LLMs neu gedacht werden muss:
- Kontext-Isolation: LLMs sollten nur auf Daten zugreifen können, die für ihre aktuelle Aufgabe notwendig sind
- Strikte Ausgabegrenzen: Nicht alle Informationen, die ein Modell "weiß", sollten der Anfrage folgen
- Adversariale Tests: Vor Release muss gezielt getestet werden, wie man sensible Daten extrahiert
SearchLeak ist nicht die erste und wird nicht die letzte kritische LLM-Lücke sein. Solange die Industrie LLMs mit klassischen Sicherheitsmodellen treated, werden solche Anfällbarkeiten regelmäßig auftauchen. Die gute Nachricht: Das Problem ist erkannt. Die schwierige Nachricht: Echte Lösungen erfordern fundamentales Umdenken bei der Architektur.