Die regulatorische Grauzone
Die EU AI Act ist seit August 2024 in Kraft. Für Entwickler von Open-Source-KI-Modellen entstehen dadurch neue Fragen: Wer trägt Verantwortung bei einem freizugegebenen Modell? Wie lassen sich Compliance-Anforderungen mit der Open-Source-Philosophie vereinbaren? Hugging Face hat sich damit auseinandergesetzt und publik gemacht, wo die Regulierung noch unklar ist.
Kernprobleme der Anwendung
Die EU AI Act unterscheidet zwischen High-Risk-Systemen, allgemeinen KI-Systemen und Foundation Models. Bei Open-Source-Modellen ist die Zuordnung komplex:
- Verantwortlichkeit: Wer haftet, wenn ein frei verfügbares Modell für verbotene Use Cases genutzt wird? Der Entwickler? Der Plattform-Betreiber? Der Endnutzer?
- Dokumentation: Für High-Risk-Systeme sind umfangreiche Dokumentationen notwendig. Das ist machbar, aber bei tausenden Community-Modellen organisatorisch anspruchsvoll.
- Monitoring: Wie überwacht man ein Modell, das nach der Veröffentlichung beliebig angepasst werden kann?
Praktische Implikationen
Die aktuelle Auslegung könnte zwei Szenarien auslösen: Entweder werden Open-Source-Modelle mit der gleichen Rigorosität reguliert wie kommerzielle Systeme – dann sinkt die Innovationsfähigkeit. Oder sie erhalten eine Ausnahmeregelung – dann entsteht ein regulatorischer Zwei-Klassen-System.
Hugging Face argumentiert für einen differenzierten Ansatz: Open-Source-Modelle sollten nicht automatisch aus der Regulierung herausfallen, aber auch nicht identisch behandelt werden wie proprietäre Systeme. Stattdessen bräuchte es:
- Klare Richtlinien zur Verantwortlichkeitsverteilung
- Praktikable Standards für Dokumentation und Testing
- Fokus auf High-Risk-Use Cases, nicht auf die Modellarchitektur selbst
Nächste Schritte
Die EU und Member States werden die Regelwerke konkretisieren. Hugging Face empfiehlt Entwicklern und Organisationen: Dokumentiert eure Modelle jetzt schon angemessen, auch wenn die finale Compliance-Definition noch aussteht. Das spart später Aufwand und schafft Rechtssicherheit.
Die Diskussion zeigt: Regulierung und Innovation müssen nicht im Konflikt stehen – aber es braucht Dialog zwischen Policy-Makern und technischer Community.