KI-Fehler, menschliche Verantwortung
Das Oberlandesgericht Hamm hat eine grundsätzliche Frage geklärt: Wer trägt die Verantwortung, wenn ein KI-Chatbot falsche Informationen verbreitet? Die Antwort fällt eindeutig aus – das Unternehmen, das den Chatbot einsetzt.
Im verhandelten Fall hatte ein KI-Chatbot einer Klinik einem Patienten fehlerhafte medizinische Informationen gegeben. Das Gericht befand, dass die Klinik für diese sogenannten Halluzinationen – also erfundene oder fehlerhaft zusammengesetzte Informationen – haftet.
Was bedeutet das praktisch?
Das Urteil unterstreicht eine wichtige Regel: Wer eine KI-Lösung operativ nutzt, trägt auch die juristische Verantwortung dafür. Der Chatbot-Anbieter allein zu entlasten, geht nicht. Unternehmen müssen also:
- Die Outputs ihrer Sprachmodelle überprüfen und validieren
- Halluzinationen durch technische oder organisatorische Maßnahmen minimieren
- Nutzer darauf hinweisen, wenn KI involviert ist
- Im Fehlerfall haftbar sein
Besonders im Healthcare-Kontext macht das Sinn. Medizinische Informationen sind hochsensibel – falsche Angaben können echten Schaden anrichten.
Haftung trifft auf KI-Realität
Das Urteil offenbart die praktische Spannung zwischen KI-Technologie und Rechtsverantwortung. Sprachmodelle neigen strukturell zu Halluzinationen. Sie sind nicht vertrauenswürdig genug für unkontrollierte Nutzung in kritischen Bereichen. Das ist keine Überraschung – es war immer bekannt.
Was neu ist: Das Gericht macht jetzt klar, dass Unternehmen das nicht einfach als "technische Limitation" abtun können. Wer einen Chatbot einsetzt, muss dafür sorgen, dass er verlässlich funktioniert – oder die Konsequenzen tragen.
Folgen für die Branche
Diese Entscheidung dürfte andere Organisationen zum Umdenken bewegen. Wer bislang Chatbots weitgehend unbeaufsichtigt in Kundenservices oder Informationskanäle gestellt hat, sollte das überdenken.
Für Healthcare, Finanzdienstleistungen und andere regulierte Bereiche wird es nun wichtiger:
- Validierung: Antworten des Chatbots checken, bevor sie Nutzer erreichen
- Dokumentation: Nachvollziehbarkeit schaffen
- Haftungsversicherung: Risiken absichern
- Disclaimer: Transparenz über KI-Nutzung
Das Urteil ist nicht das Ende von KI-Chatbots im Gesundheitswesen – aber es markiert das Ende der unreflektierten Einführung. Der Einsatz wird zielgerichteter und vorsichtiger.