Das Dilemma der KI-gestützten Förderbeurteilung
Öffentliche Behörden experimentieren mit Large Language Models als Entscheidungshilfe für Förderanträge. Das schafft ein echtes Governance-Problem: Das Modell und die Bewertungsmaßstäbe müssen vor Antragstellern verborgen bleiben—sonst optimieren diese einfach gegen das System. Gleichzeitig muss das Verfahren überprüfbar, anfechtbar und verantwortbar bleiben.
TEE-Architektur mit Remote Attestation
Forschende der Carnegie Mellon University und anderer Institutionen schlagen eine Lösung vor, die auf Trusted Execution Environments (TEE) und Remote Attestation basiert. Das Kernprinzip: Ein externer Verifier kann überprüfen, welches Modell, welche Rubrik, welcher Prompt und welche Input-Repräsentation verwendet wurden—ohne dass Modellgewichte, proprietäre Bewertungslogik oder Zwischenergebnisse offengelegt werden.
Das zentrale Artefakt ist ein "attested evaluation bundle": Ein signiertes, zeitgestempeltes Dokument, das verlinkt:
- Den Hash der Original-Einreichung
- Den kanonisierten Input-Hash
- Das Modell- und Rubrik-Measurement
- Das Evaluationsergebnis
Dies ermöglicht Nachvollziehbarkeit ohne Reverse-Engineering-Risiken.
Prompt Injection und Sanitization
Ein spezifisches Sicherheitsrisiko liegt in Antragsdokumenten selbst. Antragsteller könnten versteckte Anweisungen einbetten—entweder direkt im Text oder indirekt durch strukturelle Manipulation—um das LLM zu beeinflussen. Die Architektur adressiert dies durch eine Canonicalization- und Sanitization-Schicht:
- Dokumente werden normalisiert
- Verdächtige Transformationen werden protokolliert
- Diese Logs sind Teil des attestierten Bundles
Antragsteller sehen nicht, wie ihre Eingaben verarbeitet wurden, aber Auditor:innen können nachvollziehen, welche Manipulationen stattgefunden haben.
Klare Grenzen der Aussage
Wichtig: Die Arbeit positioniert sich bewusst bescheiden. Remote Attestation beweist nicht, dass eine Bewertung fair oder wissenschaftlich korrekt ist. Es macht nur einen Teil des Prozesses extern verifiable—und genau das ist der Punkt.
Der Ansatz verbindet Konzepte aus Confidential AI Inference, attestable AI audits, Zero-Knowledge ML und Algorithmic Accountability. Er ist praktisch orientiert auf reale Governance-Anforderungen.
Relevanz für den Sektor
Für Behörden und öffentliche Institutionen bietet dies einen Mittelweg: KI-Effizienzgewinne nutzen, ohne das System gambar zu machen oder die notwendige Rechenschaftspflicht zu gefährden. Besonders wertvoll für wettbewerbliche Prozesse wie Förderung, Ausschreibungen oder Peer Review.