< !-- Google tag (gtag.js) -->

CR-online.de Blog

Regulierung von KI: Ein Balanceakt zwischen Innovationsförderung und Datenschutz

avatar  Jan-Philipp Muttach
Wissenschaftlicher Mitarbeiter an der Universität Kassel, Fachgebiet Öffentliches Recht, IT-Recht und Umweltrecht, sowie im LOEWE-Zentrum emergenCITY

Die Notwendigkeit, bei KI-Innovationen und Grundrechtsschutz auszutarieren, ist eine globale Herausforderung. In den USA wurde diese Herausforderung letzte Woche mit der „Executive Order on Safe, Secure, and Trustworthy Artificial Intelligence adressiert, indem insbesondere neue Standards für AI safety and security geschaffen, die Privatsphäre geschützt sowie Gerechtigkeit, Grundrechte und Verbraucherschutz verbessert werden sollen (The White House, Fact Sheet, 30 October 2023).

Auch in der europäischen Gesetzgebung steht mit dem KI-VO-E eine signifikante Neuerung bevor, die das Potenzial hat, die Entwicklung und Anwendung künstlicher Intelligenz (KI) maßgeblich zu beeinflussen. Der entsprechende Kommissionsentwurf vom 21.4.2021 – nebst Änderungsanträgen von Rat und Parlament – wurde unter vielen verschiedenen Gesichtspunkten juristisch diskutiert; vergleichsweise zurückhaltend sind hingegen die juristischen Diskussionen zur Möglichkeit der Einrichtung von KI-Reallaboren ausgefallen.

Auf Unionsebene wird zunehmend ein agiler Ansatz bei der Regulierung technischer Innovationen favorisiert. Diese Agilität soll im Rahmen der KI-Regulierung u. a. durch Regulatory Sandboxes in Art. 53, 54 KI-VO-KomE (deutsch: Reallabore) als Regulierungselement erreicht werden, indem Potenziale nutzbar gemacht werden, ohne die Gefahren unreguliert zu lassen. Der europäische Gesetzgeber steht hier vor der Herausforderung, mit dem rapiden technischen Fortschritt Schritt zu halten, ohne die schutzwürdigen Belange der Bürger*innen außer Acht zu lassen.

KI-Reallabore als Innovationsplattformen

Ziel von Reallaboren im Allgemeinen ist es, Technologien in einer geschützten Umgebung zu entwickeln oder zu testen, wofür häufig Ausnahmen von bestehenden gesetzlichen Regelungen gemacht werden. Sie dienen damit als Testumgebungen, in denen Technologien, Prozesse oder neue Ansätze direkt in der Praxis angewendet und in Interaktion mit Nutzern und Stakeholdern weiterentwickelt werden können. Im Fall von KI-Reallaboren liegt der Fokus auf der Erprobung künstlicher Intelligenz in verschiedenen Anwendungsfeldern, von der industriellen Fertigung bis hin zur Gesundheitsversorgung, unter Berücksichtigung ethischer, rechtlicher und sozialer Aspekte. KI-Reallabore sind daher von besonderer Bedeutung für die schnelle und verantwortungsbewusste Entwicklung technologischer Innovationen, da sie eine Brücke zwischen theoretischer Forschung und praktischer Anwendung bilden.

Das regulatorische Spannungsfeld

Für Reallabore werden dabei häufig Ausnahmen von gesetzlichen Vorgaben vorgesehen, um Raum für innovative Technikentwicklung zu schaffen. Wenn KI-Anwendungen mit personenbezogenen Daten trainiert werden sollen, stellt insbesondere der Zweckbindungsgrundsatz gem. Art. 5 Abs. 1 lit. b DSGVO die Entwickler*innen vor besondere Herausforderungen und verhindert nicht selten die weitere Entwicklung. Art. 54 KI-VO-E will insoweit Abhilfe schaffen und unter bestimmten Voraussetzungen eine Ausnahme vom Zweckbindungsgrundsatz vorsehen.

Eine vergleichbare Diskussion wird bereits seit vielen Jahren im Zusammenhang mit Big-Data-Anwendungen geführt, wenn es um die Abwägung zwischen Zweckbindung und zweckfremder Weiterverarbeitung geht (Datennutzung vs. Datenschutz). In solchen Fällen argumentieren Digitalkonzerne, dass Big-Data-Anwendungen zu Innovationen führen würden, die durch eine strikte Auslegung des Zweckbindungsgrundsatzes ausgebremst würden. Vergleichbare Argumente lassen sich auch im Rahmen der Diskussionen über Reallabore im Allgemeinen identifizieren. Im Kontext von KI-Innovationen ist die entscheidende Frage, ob es der EU mit Art. 54 KI-VO-E gelingen wird, den innovativen Einsatz von KI zu ermöglichen, ohne dabei den Schutz personenbezogener Daten zu gefährden.

Anforderungen an gesetzliche Ausnahmen vom Zweckbindungsgrundsatz

Art. 8 Abs. 2, 52 GRCh sowie Art. 6 Abs. 4 DSGVO stellen in diesem Zusammenhang die zentralen Normen dar, die Anforderungen an gesetzliche Ausnahmen vom Zweckbindungsgrundsatz wie in Art. 54 KI-VO-KomE stellen. Ausnahmen vom Zweckbindungsgrundsatz:

  • dürfen nur für die in Art. 23 DSGVO genannten gesellschaftlich anerkannten Ziele zugelassen werden,
  • müssen den Wesensgehalt der Grundrechte achten (Art. 6 Abs. 4 DSGVO i. V. m. Art. 23 Abs. 1 DSGVO bzw. Art. 52 Abs. 1 S. 1 GRCh), hier aus Art. 8 GRCh, und
  • müssen in der konkreten Ausprägung dem Verhältnismäßigkeitsgrundsatz aus Art. 52 Abs. 1 S. 2 GRCh genügen.

Insbesondere die Frage nach der Verhältnismäßigkeit eröffnet viel Auslegungsspielraum und erfordert gemäß den Vorgaben des EuGH stets einer Einzelfallprüfung, die alle relevanten Aspekte mit in die Abwägung einbezieht, weshalb pauschale Anknüpfungen an bestimmte Behörden oder Aufgaben unzulässig sind.

Die Ausnahme in der künftigen KI-VO?

Ob bzw. inwieweit Art. 54 KI-VO-E diesen Anforderungen gerecht wird und, ob die Regelung den geforderten Mehrwert für die KI-Entwickler bietet, gehen wir in unserem Aufsatz nach, der in der Novemberausgabe der CR erscheint:

Muttach/Link, CR 11/2023, 725-731

Viel Spaß bei der Lektüre und wir freuen uns über Kommentare und Meinungen zu diesem Thema!

 

Schreiben Sie einen Kommentar

Sie müssen sich einloggen um einen Kommentar schreiben zu können.