Haftung für KI-Systeme (Borges, CR 2022, 553)

Künstliche Intelligenz (KI) und KI-Systeme, wie selbstfahrende Autos, die durch KI zu autonomen Handlungen befähigt sind, bieten nicht nur einzigartige Chancen für die Entwicklung neuer Produkte und Dienstleistungen, ¹ Wohlstandsgewinne ² und Sicherheit, ³ sondern begründen ihrerseits auch erhebliche Risiken für Rechtsgüter Dritter. ⁴

Die mit autonomen Systemen verbundenen Risiken wurden 2018 etwa anhand eines Unfalls eines hochautomatisierten Fahrzeugs deutlich, das einen Fußgänger nicht erkannte und diesen tödlich verletzte. ⁵ Dieser Unfall erhielt nicht nur breite Beachtung in den Medien, ⁶ sondern dürfte auch zur Intensivierung der fachlichen Diskussion zur Verantwortlichkeit für Schäden durch KI-Systeme beigetragen haben.

Es ist daher nicht verwunderlich, dass in den letzten Jahren Verantwortung und Haftung für KI-Systeme intensiv diskutiert wurden. ⁷ Die Diskussion umfasst unterschiedliche Fragen - von ethischen Aspekten ⁸ über die öffentliche Überwachung mithilfe des Einsatzes von KI ⁹ bis zur zivilrechtlichen Haftung ¹⁰ für Schäden, die durch KI-Systeme verursacht wurden. ¹¹

Das geltende Haftungsrecht weist in Bezug auf KI-Systeme Lücken auf. ¹² So stellt das traditionelle Deliktsrecht auf das Verschulden als zentrale Haftungsvoraussetzung ab. Damit ist jedoch das Verschulden eines Menschen gemeint. ¹³ Soweit aber eine Maschine autonom handelt, kann in der Ausführung dieser maschinellen Handlung jedenfalls kein menschliches Verhalten gesehen werden. ¹⁴ Auch der Betreiber der Maschine handelt nicht schuldhaft, wenn die (zulässigerweise betriebene) Maschine eine für ihn nicht vorhersehbare Handlung vornimmt und dadurch einen Schaden verursacht.

Eine umfassende Gefährdungshaftung des Betreibers von Maschinen existiert im europäischen Recht nicht. ¹⁵ Überlegungen, Maschinen als Rechtsträger einzuordnen, die selbst Gegner eines Schadensersatzanspruchs sein könnten, ¹⁶ sind derzeit gescheitert. ¹⁷ Zu Recht wird überlegt, ob …"