Wie verändern sich der Wissensbegriff und die Wissenszurechnung durch die Nutzung von KI-Systemen? (Seidel, CR 2023, 636)

Der Einsatz künstlicher Intelligenz (KI) stellt das Privatrecht mit zunehmender Relevanz in zahlreichen Facetten vor disruptive Veränderungen. Wenn von künstlichen Intelligenzen gesprochen wird, liegt die Frage nach ihrem Wissen nicht fern. Wissen wird an unterschiedlichen Stellen rechtserheblich, wird jedoch klassischerweise als menschliche Fähigkeit begriffen. Ob auch eine KI Wissensträgerin sein kann und wie die Wissenszurechnung unter Nutzung von KI-Systemen aussieht, untersucht der vorliegende Beitrag.

INHALTSVERZEICHNIS:

I. Einleitung

II. KI-Systeme als Wissensträger

1. Wissen als anthropomorpher Zustand?

2. Der funktionale Wissensbegriff

a) KI-Systeme als Wissensträger

b) Positive Kenntnis und Kennenmüssen

c) Parallele Wissens- und Handlungsverantwortung

d) Grenzen des funktionalen Wissensbegriffs: Moralisches Unwerturteil

3. Wissensverantwortung

4. Zwischenergebnis

III. Wissenszurechnung und Künstliche Intelligenz

1. Die Wissenszurechnung nach § 166 BGB (analog)

2. Die wertende Wissenszurechnung

a) Die Grundlagen der wertenden Wissenszurechnung

b) Das Wissen des KI-Systems als tauglicher Anknüpfungspunkt der Wissenszurechnung

c) Technikspezifische Grenzen der Wissenszurechnung und Zumutbarkeit

IV. Fazit

Leseprobe:
 

"I. Einleitung

1

Die Frage nach der Wissensfähigkeit und der Wissenszurechnung wird notwendig, wenn Wissen rechtserheblich ist. Soll etwa der Verjährungsbeginn bestimmt (§ 199 Abs. 1 Nr. 2 BGB), eine Anfechtungslage wegen arglistiger Täuschung begründet (§ 123 Abs. 1 BGB), Mängelrechte ausgeschlossen (§ 442 Abs. 1 BGB) oder ein Anspruch wegen vorsätzlicher sittenwidriger Täuschung begründet (§ 826 BGB) werden, kommt dem Wissen (syn. Kenntnis) oder dem Wissenmüssen, mithin dem fahrlässigen Nichtwissen, eine rechtserhebliche Bedeutung zu.

2

Bei arbeitsteiligen Organisationen besteht die Gefahr, dass Handlung und Wissen auseinanderfallen. Wenn beispielsweise in einem Unternehmen ein Fuhrpark-Fahrzeug beschädigt wird, der Fahrzeugführer auch den Schädiger kennt, die Rechtsabteilung hierüber jedoch keine Information erhält und aufgrund dessen den Schädiger nicht zur Schadensregulierung auffordert, stellt sich die Frage nach dem Verjährungsbeginn. Exemplarisch soll an diesem Fuhrpark-Beispiel die Notwendigkeit von Zurechnung verdeutlicht werden. Während grundsätzlich jedes Rechtssubjekt nur für das eigene Verhalten Verantwortung trägt, weitet die Fremdzurechnung den Verantwortungsbereich aus, indem Tatsachen, die in der Person eines Dritten eingetreten sind, dem Bezugssubjekt zugerechnet werden, mit der Folge, dass die Rechtswirkungen der Bezugsnorm bei dem Bezugssubjekt eintreten. 2 Dadurch garantiert die Zurechnung die Anwendung der Bezugsnormen und schützt somit vor Umgehung.

3

Eine solche Umgehung drohte bis vor wenigen Jahren hauptsächlich durch Aufspaltung von Arbeitsprozessen und Arbeitsteilung. Wie im Fuhrpark-Beispiel bestand das metaphorische Risiko, dass die eine Hand nicht weiß, was die andere tut. Nun tritt neben das durch menschliche Arbeitsteilung hervorgerufene Zurechnungsbedürfnis durch den zunehmenden Einsatz von Systemen aus dem Formenkreis der Künstlichen Intelligenz (KI) und insbesondere autonomer Softwareagenten ein weiteres: Durch den Einsatz von KI in arbeitsteiligen Organisationen und der dadurch selbstständigen Aufgabenwahrnehmung, durch automatisierte und autonome Kommunikation zwischen verschiedenen Maschinen oder Systemen ohne das Dazwischentreten menschlicher Interaktion (machine-to-machine = m2m-Kommunikation), durch Chatbots oder durch Programme, die selbstständig selbst größte, menschlich nicht handhabbare Informationsmengen durchsuchen, analysieren und strukturieren können (Big Data Analytics) stellen sich zunehmend die Fragen, ob „digitales Wissen“ möglich ist und – wenn ja – wie Informationen, die nicht menschlich, sondern computergestützt verarbeitet wurden, zugerechnet werden können..."

Hier direkt weiterlesen im juris PartnerModul IT-Recht