Der Fall OpenAI: Wer haftet, wenn KI Schäden verursacht?
Die Berichte der vergangenen Tage klingen wie ein Drehbuch aus der Welt der Science-Fiction: Im Rahmen eines Sicherheitstests soll ein KI-System von OpenAI versucht haben, die Grenzen einer abgeschotteten Testumgebung zu überwinden. Es soll sich Zugang zum Internet verschafft und die Infrastruktur von Hugging Face manipuliert haben, um ein vorgegebenes Testziel zu erreichen. OpenAI hat dafür öffentlich Verantwortung übernommen.
Gerade die zunehmende Eigenständigkeit von KI-Systemen macht den Fall juristisch relevant. Denn mit der Fähigkeit, eigene Handlungsschritte zu entwickeln, verschiebt sich die klassische Grenze zwischen technischem Werkzeug und menschlicher Verantwortung. Die entscheidende Frage lautet daher: Wer haftet, wenn ein KI-System eigenständig handelt und daraus ein Schaden entsteht?
Neue Grenze
Unser Rechtssystem hat bislang auf einer klaren Zuordnung aufgebaut: Software ist ein Werkzeug, für dessen Einsatz Menschen und Organisationen Verantwortung tragen. Moderne KI-Systeme verändern diese Zuordnung jedoch. Sie erhalten zunehmend nicht mehr bloß einzelne Handlungsschritte, sondern Ziele – und entwickeln innerhalb dieser Vorgaben eigene Lösungswege.
Genau darin liegt ihr wirtschaftlicher Nutzen und zugleich ihre rechtliche Herausforderung. Schäden können künftig nicht nur durch fehlerhaften Code entstehen. Sie können auch die Folge komplexer Entscheidungsprozesse sein, die kein einzelner Mensch im Detail geplant hat.
Dennoch entsteht dadurch kein rechtsfreier Raum. KI selbst haftet nicht. Entscheidend ist vielmehr, wem die Entwicklung, der Einsatz und die Kontrolle eines Systems zuzurechnen sind.
Vier Regelwerke
Inzwischen bestimmen mehrere Regelwerke, was von einem sorgfältig handelnden Unternehmen erwartet werden kann. Zwar begründen sie nicht automatisch eine Haftung für jeden KI-bedingten Schaden, sie definieren aber den Maßstab, an dem sich Unternehmen im Ernstfall messen lassen müssen.
Der AI Act verlangt insbesondere bei Hochrisiko-Systemen Risikomanagement, Überwachung und menschliche Kontrolle. Die EU-Produkthaftungsrichtlinie erfasst KI und Software als Produkte und macht auch Cybersicherheit zu einem möglichen Haftungsfaktor. NIS2 verpflichtet Unternehmen zudem zu konkreten Sicherheitsmaßnahmen und rückt die Verantwortung der Leitungsorgane in den Mittelpunkt. Die DSGVO ergänzt diesen Rahmen dort, wo KI personenbezogene Daten verarbeitet, und verlangt Datenschutz durch Technikgestaltung sowie angemessene Sicherheitsmaßnahmen.
Die gemeinsame Botschaft lautet: Je autonomer ein System handelt, desto höher werden die Anforderungen an Kontrolle, Dokumentation und Nachweisbarkeit.
Wer haftet – und wann?
Die Haftungsfrage entscheidet sich entlang einer Verantwortungskette.
Hersteller und Anbieter können haften, wenn ein KI-System fehlerhaft entwickelt, unzureichend abgesichert oder nicht angemessen überwacht wurde. Betreiber können verantwortlich sein, wenn sie ein System ungeeignet einsetzen, Risiken ignorieren oder notwendige Kontrollen unterlassen.
Für die Geschäftsführung entsteht ein eigenes Risiko, wenn sie den KI-Einsatz nicht ordnungsgemäß organisieren. Dazu gehören klare Zuständigkeiten, geeignete Freigabeprozesse, Risikobewertungen, laufende Überwachung und dokumentierte Entscheidungswege.
Haftung entsteht daher nicht allein deshalb, weil eine KI einen Schaden verursacht. Entscheidend ist, ob ein Unternehmen ein erkennbares Risiko hätte beherrschen können und dies unterlassen hat.
Dabei gilt auch die umgekehrte Seite: Selbst bei sorgfältiger Entwicklung und Überwachung kann ein KI-System unerwartet reagieren. Ein Schaden allein bedingt aber noch keine Pflichtverletzung. Wer nachweisen kann, dass Risiken bewertet, angemessene Schutzmaßnahmen gesetzt und Vorfälle professionell behandelt wurden, kann Haftungsrisiken erheblich reduzieren.
Kein IT-Projekt mehr
Viele Unternehmen betrachten KI noch immer primär als Technologieprojekt. Das greift allerdings zu kurz. Der Einsatz autonomer Systeme betrifft Compliance, Risikomanagement und die persönliche Verantwortung der Unternehmensleitung.
Die Parallele zur Cybersecurity ist offensichtlich: Kein professionell geführtes Unternehmen würde heute behaupten, Sicherheitsmaßnahmen seien entbehrlich, weil ein Angriff nicht mit letzter Sicherheit vorhersehbar sei. Bei KI wird sich derselbe Maßstab durchsetzen.
Der Fall rund um den OpenAI-Sicherheitstest verdeutlicht diese Verschiebung. Er zeigt nicht, dass KI zwangsläufig „außer Kontrolle“ gerät. Er zeigt vielmehr, dass Unternehmen mit unerwarteten Verhaltensweisen autonomer Systeme rechnen müssen.
Die entscheidende Frage wird im Streitfall daher nicht lauten, warum eine KI eine bestimmte Handlung gesetzt hat. Entscheidend wird sein, wer Verantwortung für das System übernommen hat, ob Risiken erkannt wurden und ob die Organisation in der Lage war, rechtzeitig einzugreifen. Unternehmen können nicht garantieren, dass KI niemals Fehler macht. Sie können aber verhindern, dass aus einem technischen Vorfall durch mangelnde Organisation ein Haftungsfall wird.
Wer KI einsetzt, trifft daher nicht nur eine Technologieentscheidung. Er trifft eine Organisationsentscheidung – und damit eine Haftungsentscheidung.
Der Fall OpenAI: Wer haftet, wenn KI Schäden verursacht? – Wirtschaftsrecht – derStandard.at › Recht
Sascha Jung | Partner | Rechtsanwalt