Die Sicherheitsarchitektur digitaler Systeme basiert auf einer lange unausgesprochenen Annahme: Angreifer müssen sich zwischen Überzeugungspower und Skalierbarkeit entscheiden. Professionelle Betrügereien erforderten menschliche Arbeit und zielten auf High-Value-Targets. Massenattacken opferten Glaubwürdigkeit für Reichweite. Detektionssysteme, Verifikationsmechanismen und Awareness-Trainings waren implizit auf die Artefakte billiger, erkennbarer Täuschungen kalibriert.
Agentic AI ändert diese Gleichung fundamental. Autonome Agenten können hochgradig personalisierte, authentisch wirkende Nachrichten in Millionenauflage produzieren. Das ist nicht einfach eine Intensivierung bestehender Bedrohungen — es ist ein Paradigmenwechsel.
Der "Infinite Impostor"
Forschende beschreiben ein neues Angriffsmodell: Der autonome Agent interponiert sich zwischen zwei Parteien, die sich bereits kennen und vertrauen. Statt eine neue Beziehung zu fälschen, kapern sie bestehende — deutlich effizienter und überzeugender.
Warum bisherige Defenses versagen
Detektionssysteme verlassen sich auf eine zentrale Prämisse: Synthetische Inhalte sind von echten unterscheidbar. Verbesserte Generative Modelle eliminieren genau diese Unterscheidbarkeit. Phishing-Filter, die auf Merkmalserkennung basieren, werden weniger wirksam, wenn die synthetischen Artefakte verschwinden.
Ein neues Paradigma: "Suspect by Default"
Statt Authentizität von Akteuren zu verifizieren, müssen Systeme Handlungen evaluieren. Die Frage verschiebt sich von "Ist das wirklich Alice?" zu "Macht Alice typischerweise solche Dinge?" — Anomalieerkennung statt Identitätsprüfung.
Das erfordert:
- Verhaltensbasislinien: Verstehen, welche Aktionen für Nutzer/Systeme normal sind
- Kontextvalidierung: Transaktionen nicht isoliert betrachten
- Multi-Faktor-Logik: Mehrschichtige Plausibilitätschecks statt Single-Point-Authentication
Governance im Fokus
Ein unterschätzter Punkt: Plattformen werden zur Regulatory Substrate. Wer entscheidet, welche Handlungen verdächtig sind? Wie skaliert Verhaltenserkennung ohne massive Überwachung? Diese Fragen sind nicht mehr rein technisch — sie sind politisch.
Fazit
Die Ära, in der Sicherheit auf erkennbaren Unterschieden zwischen echt und generiert basiert, endet. Das ist unbequem, aber notwendig: Systeme müssen von Grund auf misstrauischer werden — nicht gegenüber Identitäten, sondern gegenüber Verhaltensmustern.