Mängelrechte bei KI: Wann sind lernende Systeme fehlerhaft? (Diedrich, CR 2021, 289)

I. Einführung: KI und selbst­ler­nende Systeme

1

Die Definition des Diskus­si­ons­ge­gen­stands der künst­lichen Intel­ligenz („KI“) bietet Anlass für vielfältige Diskus­sionen. Wegen der zu erwar­tenden normie­renden Wirkung auf künftige Gesetz­ge­bungs­vor­haben geht dieser Beitrag von der Definition im Entwurf der Europäi­schen Kommission für harmo­ni­sierte Regeln bzgl. künst­licher Intel­ligenz vom 21.4.2021 aus.¹ Die Kommission definiert in Art. 3 Abs. 1: „‘Artificial Intel­li­gence System’ (AI system) means software that is developed with one or more of the techniques and approaches listed in Annex I and can, for a given set of human-defined objec­tives, generate outputs such as content, predic­tions, recom­men­da­tions, or decisions influ­encing the environ­ments they interact with“. Annex I verweist für die Definition von KI auf folgende technische Ansätze zur Reali­sierung: (a) selbst­ler­nende Systeme, unabhängig davon, ob sie überwacht, nicht überwacht oder unter­stützt statt­finden; (b) logik- und wissens­ba­sierte Ansätze; (c) statis­tische Ansätze.

2

Die vielfäl­tigen Fragen zu möglichen Defini­tionen sollen für die Unter­su­chung einer „Fehler­haf­tigkeit“ zurück­ge­stellt werden. Zunächst geht es um „Systeme“, d.h. hier konkre­ti­siert auf Software innerhalb bestimm­barer Schnitt­stellen. Die Systeme inter­a­gieren über ihre Schnitt­stellen mit anderen Systemen und/oder Nutzern und beruhen auf mindestens einem der im vorge­nannten Annex I angespro­chenen techni­schen Ansätze („KI-System“).

Beispiele

3

Sicher­heits­software meldet anhand von Proto­koll­da­teien und Daten­aus­tausch zwischen Systemen Beson­der­heiten der für ein Unter­nehmen einge­setzten IT, die von IT-Sicher­heits­fach­leuten analy­siert werden sollten (Security Infor­mation and Event Management/SIEM). Software bietet Kunden auf Freitex­tein­gaben Hinweise zur Lösung aufge­tre­tener Probleme (entlastet Call-Center). Software verbucht Zahlungs­ein­gänge auf Debito­ren­konten. Mobil­geräte erkennen Nutzer mit lokal imple­men­tierter Gesichts- und Schreib­sti­ler­kennung. Sicher­heits­kamera mit Warnservice, der nur auf neue Personen hinweist.

II. Überlassung von KI-Systemen: Zuordnung des Vertragstyps

1. In Betracht kommende Vertrags­typen

4

Aus der Zuordnung der vertrag­lichen Leistungen zum maßgeb­lichen Vertragstyp ergibt sich, welche Regeln betreffend Mängel­rechte anzuwenden sind. Für KI-Systeme stehen neben dem Dienst­vertrag die Regeln von Kauf, Miete und Werkvertrag im Vorder­grund: Werden Nutzungs­rechte nur für die zu erwar­tende Nutzungs­dauer einge­räumt bzw. sind die Leistung von Software as a Service („SaaS“) oder Appli­cation Service Providing („ASP“) Gegen­stand der Verein­barung, so ist Mieter­ver­trags­recht einschlägig.² Geht es um die Herbei­führung eines per Indivi­du­al­software zu errei­chenden Erfolgs, so ist (abseits der nach § 650 BGB per Verweis eingrei­fenden Kaufregeln) Werkver­trags­recht anzuwenden.

2. Bestimmung des Vertragstyps nach Schwer­punkt­bildung

5

Teils werden KI-Systeme – z.B. aus Gründen des Daten­schutzes und der Betriebs­si­cherheit – möglichst vollständig beim Kunden betrieben. Teils werden jedoch externe Ressourcen genutzt, etwa um große Daten­mengen zu inter­pre­tieren oder von zusätz­licher Sicherheit durch extern und normalem Kunden­zu­griff entzogen gespei­cherte Daten zu profi­tieren. In solchen Fällen werden verschiedene Leistungs­ele­mente gemischt. Häufig lassen sich die verschie­denen Leistungs­teile im Rahmen solcher KI-Systeme nicht sinnvoll vonein­ander trennen, ohne die verob­jek­ti­vierte Kunde­n­er­wartung³ an die Sollbe­schaf­fenheit zu unter­graben. Die Recht­spre­chung lehnt die Zerlegung in Einzel­teile mit Anwendung der Regeln des jewei­ligen Vertrags­typus regel­mäßig ab.⁴ Statt­dessen werden unter Verweis auf gefes­tigte höchstrich­ter­liche Recht­spre­chung (i) nach dem Schwer­punkt des Vertrags der anzuwen­dende Vertrags­typus bestimmt und (ii) nach Bedarf sonstige Regeln und Wertungen heran­ge­zogen.⁵ Dabei spielen die von den Vertrags­par­teien gewählte Bezeichnung und verwendete Termi­no­logie keine Rolle. Allein die Ausge­staltung der wechsel­sei­tigen Rechte und Pflichten durch die Parteien ist erheblich.⁶ Dem folgt die Literatur, soweit die verschie­den­ar­tigen Leistungen nicht sinnvoll trennbar sind. Bei solchen Typen­ver­schmel­zungs­ver­trägen, wird die Anwendung nach Schwer­punkt­bildung weitgehend anerkannt.⁷

3. Kaufver­trag­liche Anwen­dungs­fälle

6

Wird das Eigentum an KI-Systemen gegen einmalige Vergütung unbefristet übertragen, ist auch für sonstige Software an Kaufrecht zu denken. Gegen Kaufrecht ließe sich einwenden, dass KI-Systeme zumindest teilweise nicht „fertig“ überlassen werden, soweit sie sich nach Überlassung an den Erwerber weiter­ent­wi­ckeln. Aber auch wenn eine Kaufsache noch „reifen“ muss, erschiene es überra­schend, insoweit einen neuen oder anderen Vertrags­typus zu wählen. Kaufrecht bildet auch diese Konstel­lation ab. Bei Gefahr­übergang muss ein KI-System vorliegen, das die vertrags­gemäße Lernfä­higkeit aufweist. Insoweit unter­scheidet sich das KI-System nicht wesentlich von einem Speicher­medium, das mit der Fähigkeit verkauft wird, Daten in bestimmter Weise zu speichern. Die nachfol­gende Darstellung konzen­triert sich auf den Kauf.

III. Maßstäbe: Mangel­haf­tigkeit verkaufter KI-Systeme

7

Eine Kaufsache ist mangelhaft, wenn sie bei Gefahr­übergang von der vertrag­lichen Sollbe­schaf­fenheit abweicht, § 434 Abs. 1 BGB .⁸ (...)