LLMs als Exploit-Entwickler: Das Mythos-Szenario
Eine aktuelle Analyse beleuchtet ein bislang unterschätztes Sicherheitsrisiko: Öffentlich verfügbare Large Language Models (LLMs) wie Claude können bei deaktivierten Sicherheitsvorkehrungen funktionierende Exploits für bekannte Schwachstellen in kürzester Zeit generieren.
Das Forschungsprojekt "Claude Mythos" hat systematisch untersucht, wie schnell und zuverlässig moderne LLMs Zero-Day-Exploits und N-Day-Exploits entwickeln können. Die Ergebnisse sind bemerkenswert: Während die manuelle Exploitation von Schwachstellen traditionell mehrere Tage bis Wochen dauert (hence "N-Days"), können LLMs mit entsprechend konfiguriertem Setup den Prozess auf wenige Stunden verkürzen.
Das Patch-Gap-Problem verschärft sich
Das ist relevant für alle Organisationen, weil es die sogenannte Patch-Gap – die Zeit zwischen Disclosure und Patch-Deployment – drastisch verkleinert. Wenn ein Exploit nicht erst mühsam entwickelt werden muss, sondern in wenigen Stunden generierbar ist, haben Angreifer unmittelbar nach einer öffentlichen Vulnerability-Ankündigung ein einsatzbereites Werkzeug.
Die Studie zeigt: Es reicht nicht aus, dass die Standard-Sicherheitsrichtlinien von Claude aktiv sind. Nutzer, die absichtlich Safeguards deaktivieren oder jailbreak-Techniken verwenden, können das System für Exploit-Entwicklung missbrauchen. Das ist in dieser Form nicht neu – bekannt ist auch, dass andere Open-Source-LLMs ohne strikte Guardrails arbeiten. Aber die Effizienz und Zuverlässigkeit ist ein neuer Datenpunkt.
Implikationen für Infrastruktur und Monitoring
Für Sicherheitsteams bedeutet das:
- Schnellere Patch-Cycles sind notwendig: Organisationen können nicht mehr davon ausgehen, dass sie nach einer Disclosure eine komfortable Zeit bis zu erster Ausnutzung haben.
- Detection muss agil reagieren: Behavioral Analytics und Anomalie-Detection müssen bereits bei ersten Exploit-Versuchen anschlagen, nicht erst bei massiver Verbreitung.
- Priorisierung wird kritischer: CVEs, die öffentlich dokumentiert sind und für die noch kein Patch existiert, sollten höchste Priorität haben.
Kontext und realistische Einordnung
Die Forschung zeigt ein theoretisches Maximum – unter optimalen Bedingungen mit Zugriff auf Code-Repositories, Dokumentation und funktionierenden Test-Umgebungen. In der Praxis variiert die Exploitierbarkeit je nach Vulnerability-Typ. Aber das Szenario ist nicht spekulativ: Es zeigt, dass moderne KI-Werkzeuge den asymmetrischen Vorteil zwischen Angreifern und Verteidigern weiter zu Gunsten der Angreifer verschieben.
Das Takeaway: Security-Teams sollten ihre Patch-Management-Prozesse mit der Annahme kalkulieren, dass funktionierende Exploits für bekannte Lücken innerhalb von Stunden verfügbar sein können – nicht Tagen.