Aktuell im ITRB

Der Entwurf einer EU-KI-Verordnung (Grützmacher/Füllsack, ITRB 2021, 159)

Die Europäische Union schickt sich an, den Einsatz von Künstlicher Intelligenz stark zu regulieren. Die EU-Kommission hat dazu am 21.4.2021 den weltweit ersten Vorschlag eines Rechtsrahmens vorgelegt. Einerseits will die EU die Entwicklung und Nutzung von KI fördern, andererseits sollen die mit der Technologie einhergehenden Gefahren eingedämmt werden. Dies ist ein schwieriger Spagat, wie auch der überblicksartig dargestellte Entwurf zeigt.


I. Ausgangssituation

II. Regulierungsansatz

1. Anwendungsbereich

a) Räumlicher Anwendungsbereich

b) Sachlicher Anwendungsbereich und Legaldefinition von KI.

2. Risikostufen

a) Intolerable, verbotene KI-Systeme

b) Hochriskante KI-Systeme

c) KI-Systeme mit geringem bzw. minimalem Risiko

3. Regulierung hochriskanter KI-Systeme

a) Anbieter

b) Nutzer

c) Weitere Akteure

4. Durchsetzung und Aufsicht

5. Bußgelder

III. Gesetzgebungsverfahren und sonstige geplante Rechtsakte der EU

IV. Schlussbemerkung


I. Ausgangssituation

Mit dem vorgelegten Entwurf einer Verordnung zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (KI-Verordnung, kurz KI-VO) verfolgt die Kommission vor allem das Ziel, die mit der Technologie verbundenen Gefahren zu minimieren und den Einsatz vertrauenswürdiger KI-Systeme zu fördern. Zugleich will man vermeiden, dass durch übermäßig weitreichende Regularien der technische Fortschritt innerhalb Europas gehemmt und so die EU in ihrer Wettbewerbsfähigkeit geschwächt wird – wie es bei größeren regulatorischen Projekten in der Vergangenheit teils kritisiert wurde. Die neuen Vorschriften sollen deshalb nur dort eingreifen, wo dies unbedingt notwendig ist, nämlich wenn die Sicherheit und die Grundrechte der EU-Bürger auf dem Spiel stehen, wie Kommissions-Vizepräsidentin Margrethe Vestager betonte.

Der Entwurf versucht, diesen Spagat durch einen risikobasierten Ansatz zu erreichen. Er differenziert zwischen verschiedenen Risikostufen und setzt klassifizierte Vorgaben: Je größer die möglichen Gefahren sind, desto höher sollen auch die Anforderungen an das KI-System sein.

II. Regulierungsansatz

Mit der geplanten KI-VO würde eine Art IT-bezogenes Sicherheitsrecht geschaffen. Dabei geht es allerdings nicht so sehr um die Sicherheit der IT, sondern vielmehr um die Sicherheit vor IT, genauer vor KI-basierten Systemen.

1. Anwendungsbereich

a) Räumlicher Anwendungsbereich


Der räumliche Anwendungsbereich wird in Art. 2 Abs. 1 KI-VO-E festgelegt. Danach soll die Verordnung nicht bloß auf Anbieter, die KI-Systeme in der EU auf den Markt bringen (lit. a), oder auf in der EU ansässige Nutzer ITRB 2021, 160(i.S.d. Verordnung) (lit. b) angewandt werden, sondern nach lit. c) sogar auf auf Anbieter und Nutzer von KI-Systemen, die in einem Drittland ansässig sind, wenn der von dem System erzeugte Output in der Union verwendet wird. Der Vorschlag geht also in Richtung einer stark extraterritorialen Wirkung.

b) Sachlicher Anwendungsbereich und Legaldefinition von KI

Der Vorschlag für eine KI-VO verfolgt einen sog. horizontalen Ansatz, ist also im Grundsatz keine (...)



Verlag Dr. Otto Schmidt vom 25.06.2021 13:11

zurück zur vorherigen Seite