Nachteil zunehmender Künstlicher Intelligenz (KI) ist die abnehmende Voraussagbarkeit der Entscheidungen und Handlungen „smarter“ Systeme. Dadurch wird eine abschließende sichere Produktentwicklung am Reißbrett zunehmend unmöglich. Ausgehend von dem Ziel Produktsicherheit (I.) erinnert der Beitrag kurz an die dogmatischen Grundlagen der Produktbeobachtung (II.) und leitet aus den Kriterien für die Gebotenheit einer Verkehrssicherungspflicht sodann eine Pflicht zu „integrierter Produktbeobachtung“ (III.) ab, die alle Rechtsgüter von § 823 Abs. 1 BGB schützt.

I. Produktsicherheit durch Produktbeobachtung

II. Produktbeobachtung als Verkehrssicherungspflicht

1. Passive Produktbeobachtungspflichten

2. Aktive Produktbeobachtungspflichten

3. Defizite der passiven und aktiven Produktbeobachtung

III. "Integrierte Produktbeobachtung" als Produktbeobachtung 3.0?

1. Integrierte Produktbeobachtung als Verkehrssicherungspflicht

a) Gefährlichkeit
aa) Unterschiedlicher Bewertungsmaßstab für Produktbeobachtungs- und Gefahrabwendungspflichten
bb) Faktoren der Gefährlichkeitsbewertung
cc) Unsicherheiten bei neuartigen Produkten

b) Erwartungshaltung

c) Aufwand

d) Ergebnis

2. Pflicht zur Beobachtung von Softwarefehlern

3. Koexistenz der passiven, aktiven und integrierten Produktbeobachtung

4. Integrierte Produktbeobachtung und Datenschutzrecht

IV. Zusammenfassung und Ausblick

I. Produktsicherheit durch Produktbeobachtung

[1] Dem technologischen Fortschritt wohnt stets auch eine Ungewissheit inne, insofern sich neue Produkte und Verfahren zunächst in der Praxis beweisen müssen. Dies gilt heute mehr denn je, als etwa der Einsatz künstlicher Intelligenz zu Entscheidungen und Handlungen führen kann, die sich am Reißbrett nicht final erproben lassen und automatisierte Systeme auch in komplexen Situationen eigenständig und ohne menschliche Überwachung agieren sollen. Zudem findet sich heute praktisch kein informationstechnisches Produkt mehr, das nicht mit dem Internet und anderen „Smart Products“, auch unterschiedlicher Hersteller, vernetzt wäre und mit diesen kommuniziert, interagiert oder gar kooperiert.

[2] Diesen mehrfachen Komplexitäten und Unsicherheiten kann nur durch eine Schwerpunktverlagerung der herstellerseitigen Pflichten hin zur kontinuierlichen Informationsbeschaffung und Produktverbesserung nach dem Zeitpunkt der Markteinführung von Produkten entgegengewirkt werden, was gemeinhin unter die Begriffe der Produktbeobachtungs- und Gefahrabwendungspflichten gefasst wird.

II. Produktbeobachtung als Verkehrssicherungspflicht

[3] Im Rahmen der Produktbeobachtung sind Hersteller verpflichtet zu prüfen, wie sich ihre Produkte in der Praxis bewähren und etwaigen Auffälligkeiten nachzugehen. ¹  Von dieser Überwachungspflicht umfasst sind nicht nur Konstruktions‑, sondern auch Fabrikations- und Instruktionsfehler ²  – von den Konstruktionsfehlern aber gerade auch solche, die bei Inverkehrgabe des Produkts noch gar nicht erkennbar waren, für die eine unmittelbare Haftung allein aufgrund des Fehlers also eigentlich ausgeschlossen ist (sog. Entwicklungsrisikoausnahme).

[4] Mit Ausnahme von einigen wenigen öffentlich-rechtlichen Produktbeobachtungs- und Gefahrabwendungspflichten (etwa im AMG, im LFGB, im GenTG, im ChemG oder im Rahmen der sog. „After-Sales-Kontrolle“ des § 6 Abs. 3 ProdSG, wonach Hersteller „Stichproben durchzuführen, Beschwerden zu prüfen und, falls erforderlich, ein Beschwerdebuch zu führen“ haben) werden diese Pflichten hauptsächlich aus dem Haftungsrecht (insbesondere aus der deliktischen Produzentenhaftung des § 823 Abs. 1 BGB sowie aus vertraglicher Haftung) hergeleitet. ³  Dort stellen Produktbeobachtungspflichten einen Unterfall der generellen Verkehrssicherungspflichten und damit besondere Sorgfalts- und Einstandspflichten des Herstellers dar, deren Verletzung insbesondere zur Haftungsbegründung bei Unterlassen erforderlich ist: ⁴  Wegen einer unterlassenen Handlung haftbar gemacht werden kann insofern nur derjenige, der überhaupt eine Pflicht zum Handeln (hier: kontinuierliche Beobachtung von Produkten nach dem Zeitpunkt der Inverkehrgabe und Durchführung gefahrenabwendender Maßnahmen nach Fehlerfund) ⁵  innehatte und ebendiese Pflicht verletzt hat.

[5] Mit der passiven und aktiven Produktbeobachtung haben sich in der Rechtsprechung dabei bislang zwei verschiedene Formen herauskristallisiert.

1. Passive Produktbeobachtungspflichten

[6] Das RG hat bereits im Jahre 1940 erkannt, dass derjenige, der „wenn auch vielleicht unwissend, eine Gefahr für den allgemeinen Verkehr gesetzt hat, [...] sobald er die Gefahr erkennt, alles tun [muss], was ihm nach den Umständen zugemutet werden kann, um sie abzuwenden“ ⁶ . Hieraus wurde die herstellerseitige passive Pflicht abgeleitet, einen Kanal für Kundenbeschwerden einzurichten (heute bspw. als Service-Hotline) und eingehende Kundenreklamationen nachzuprüfen. ⁷  Auch Beschwerden, die bei Händlern eingehen, müssen dabei von den Herstellern regelmäßig abgefragt werden. ⁸

2. Aktive Produktbeobachtungspflichten

[7] Diese bloße Pflicht zur Entgegennahme von Kundenbeschwerden wurde schließlich durch den BGH fortentwickelt, insofern sich Hersteller „nicht darauf verlassen [dürften], mehr oder weniger zufällig von [...] Gefahren Kenntnis zu erlangen“  ⁹ . Vielmehr seien diese „auch der Allgemeinheit gegenüber verpflichtet, [...] Produkte sowohl auf noch nicht bekannte schädliche Eigenschaften hin zu beobachten als sich auch über deren sonstige, eine Gefahrenlage [schaffende] Verwendungsfolgen zu informieren“  ¹⁰ . Aufgrund dieser aktiven Produktbeobachtungspflichten sind Hersteller nunmehr verpflichtet, sich auch selbst über neu bekannt gewordene Gefahren und bislang unbekannte Fehler in ihren Produkten zu informieren. Auszuwerten sind dabei alle öffentlich-zugänglichen Quellen, die produktrelevante Informationen erwarten lassen, wozu neben wissenschaftlichen Kongressen und Tagungen, etwa auch Fachzeitschriften oder Zeitungs- und Testberichte zählen. ¹¹

[8] Auch innerhalb der aktiven Produktbeobachtungspflichten hat seitdem eine stete Fortentwicklung durch Rechtsprechung und Literatur stattgefunden. Nur beispielsweise wurde zwischenzeitlich etwa auch eine Pflicht zur Beobachtung der wichtigsten Mitbewerber abgeleitet, wenn diese sicherheitsbedingte Veränderungen an ihren Produkten vornehmen sowie eine Pflicht zur Beobachtung möglicher Gefahren durch Drittanbieterzubehör. ¹²  Neuerdings wird in der Literatur auch eine Rechercheobliegenheit im Internet, etwa in Foren oder in sozialen Netzwerken, vertreten. ¹³

3. Defizite der passiven und aktiven Produktbeobachtung

[9] Beide bisherigen Formen stellen strenggenommen keine unmittelbare Produktbeobachtung, sondern vielmehr eine nur (...)

Hier direkt weiterlesen im juris PartnerModul IT-Recht