I. Verhand­lungs­agenten – ein Defini­ti­ons­ansatz

1

Verhand­lungs­agentensind sog. Softwa­re­agenten. Dies sind Compu­ter­pro­gramme, die bestimmte Aktionen selbst­ständig durch­führen, um definierten Ziele zu erreichen¹. Der Agent erhält aus seiner Umgebung mittels seiner Sensorik (z.B. Tastatur, Kamera, Sensoren) Infor­ma­tionen, die er auswertet und das Ergebnis über seine Aktua­toren an die Umgebung zurückgibt². Softwa­re­agenten zeichnen sich durch die Eigen­schaften Autonomie, Reakti­vität, Proak­ti­vität, Inter­ak­ti­ons­fä­higkeit und Lernfä­higkeit aus³. Für diesen Beitrag ist vorrangig die Autonomie von Softwa­re­agenten von Bedeutung, wobei über eine präzise Definition von Autonomie weitest­gehend Uneinigkeit herrscht⁴. Jüngst hat sich auch die EU zu diesem Thema zu Wort gemeldet⁵: Autonomie soll nach den Vorstel­lungen des EU-Parla­ments bei solchen KI-Systemen vorliegen, deren Arbeits­weise darauf beruht, bestimmten Input mithilfe eines vorge­ge­benen Regel­systems zu inter­pre­tieren, ohne jedoch auf die vorge­ge­benen Regeln beschränkt zu sein, wobei zu berück­sich­tigen sein soll, dass das System für eine bestimmte Aufgabe geschaffen wurde und dadurch sowie durch weitere Design-Entschei­dungen des Entwicklers in gewisser Hinsicht einge­schränkt ist⁶. Das EU-Parlament legt folglich den Schwer­punkt ihrer Definition nicht mehr auf die KI als solche, sondern auf das autonome Entscheiden, für das die Struktur als KI jedoch Voraus­setzung sein soll. Obwohl an der Vollstän­digkeit der Definition des EU-Parla­ments gezweifelt werden kann⁷, soll sie für die folgenden Ausfüh­rungen zugrunde gelegt werden.

2

Softwa­re­agentensind vor diesem Hinter­grund Softwa­re­pro­gramme, deren Autonomie sich daraus ergibt, dass sie bekannten oder unbekannten Input mithilfe ihres internen Regel­systems verar­beiten. Ihnen verbleibt dabei ein gewisser Entschei­dungs­spielraum, wobei sie durch ihre Program­mierung und ihren Einsatz­be­reich beschränkt werden.

3

Kontrol­lier­barkeit: Die Fähigkeit, ein solches System überblicken und kontrol­lieren zu können, hängt stark von der Komple­xität des zugrunde liegenden Programms ab⁸ sowie von den Daten­mengen, die das System verar­beiten kann. Als Faust­regel kann heran­ge­zogen werden, dass die Kontrol­lier­barkeit und Nachvoll­zieh­barkeit mit steigender Komple­xität des Systems abnimmt; die Präzision der Entschei­dungen nimmt jedoch zu⁹.

4

Auch Verhand­lungs­agenten sind mit dieser Art der Autonomie ausge­stattet und dienen der Aushandlung und dem Abschluss von Verträgen. Diese Aufgaben erfüllen sie eigen­ständig und ohne dass ein Mensch dabei auf die Software oder den Vertrags­schluss einwirkt. Je kompli­zierter und umfang­reicher das Einsatz­gebiet ist, desto schwie­riger wird es, das System zu verstehen und zu kontrol­lieren. Damit wird den für den Verhand­lungs­agenten verant­wort­lichen Personen ab einem gewissen Komple­xi­tätsgrad die Möglichkeit genommen, Fehlver­halten des Agenten durch korrektes Alter­na­tiv­ver­halten zu verhindern.

II. Vertrags­schluss mittels eines Verhand­lungs­agenten

5

Zunächst stellt sich die Frage nach der Wirksamkeit von durch Verhand­lungs­agenten einge­gan­genen Verträgen. Inwieweit kann autonome Software eine Person rechts­ver­bindlich binden?

6

Bei Erklä­rungen eines Verhand­lungs­agenten handelt es sich um Compu­ter­er­klä­rungen. Diese werden, anders als elektro­nisch übermit­telte Willens­er­klä­rungen oder automa­ti­sierte Willens­er­klä­rungen, (...)

Hier direkt weiterlesen im juris PartnerModul IT-Recht