{"id":7026,"date":"2023-04-02T19:58:17","date_gmt":"2023-04-02T18:58:17","guid":{"rendered":"https:\/\/www.cr-online.de\/blog\/?p=7026"},"modified":"2023-06-05T14:01:51","modified_gmt":"2023-06-05T13:01:51","slug":"tutti-frutti-garantiert-italien-verbietet-chatgpt","status":"publish","type":"post","link":"https:\/\/www.cr-online.de\/blog\/2023\/04\/02\/tutti-frutti-garantiert-italien-verbietet-chatgpt\/","title":{"rendered":"Tutti Frutti garantiert \u2013 Italien verbietet ChatGPT"},"content":{"rendered":"

Dies h\u00e4tte kein deutscher Datensch\u00fctzer gewagt: Die italienische Datenschutzbeh\u00f6rde (die \u201eGarante\u201c) hat am vergangenen Donnerstag ein ChatGPT-Verbot<\/strong> verf\u00fcgt. Dies als Eilma\u00dfnahme mit sofortiger Wirkung<\/strong>.<\/p>\n

Der Verbotsbescheid l\u00e4sst sich online nachlesen (https:\/\/www.garanteprivacy.it\/home\/docweb\/-\/docweb-display\/docweb\/9870832<\/a>); die zugeh\u00f6rige Pressemitteilung gibt es sogar in englischer Sprache (https:\/\/www.garanteprivacy.it\/home\/docweb\/-\/docweb-display\/docweb\/9870847#english<\/a>).<\/p>\n

Soweit ersichtlich, st\u00fctzt sich das Verbot auf vier h\u00f6chst unterschiedliche Gr\u00fcnde. Ein \u201eTutti Frutti\u201c nach italienischer Art:<\/p>\n

 <\/p>\n

1. Keine Rechtsgrundlage (Art. 6 DSGVO)<\/strong><\/p>\n

Die italienischen Datensch\u00fctzer vermissen eine Rechtsgrundlage f\u00fcr die Verarbeitung personenbezogener Daten durch OpenAI.\u00a0Ein Thema, das man auch von anderen KI-Anwendungen kennt. K\u00fcnstliche Intelligenz entsteht durch Trainingsdaten.<\/strong> Und Trainingsdaten haben fast immer auch \u2013 jedenfalls teilweise \u2013 Personenbezug<\/strong>. So kommt beispielsweise keine \u00dcbersetzungssoftware ohne Personendaten aus.<\/p>\n

Es w\u00e4re naiv oder t\u00f6richt, die Nutzung von Personendaten zum Machine Learning<\/strong> stets von der Einwilligung aller betroffenen Personen<\/strong> abh\u00e4ngig zu machen (Art. 6 Abs. 1 Satz 1 lit. a DSGVO<\/a>). Denn dies w\u00fcrde das Ende aller KI-Anwendungen in Europa bedeuten. Somit bleibt die Interessenabw\u00e4gung nach Art. 6 Abs. Satz 1 lit. f DSGVO). Weshalb man bei der \u201eGarante\u201c meint, dass sich ChatGPT nicht auf \u201eberechtigte Interessen\u201c st\u00fctzen kann, ist dem Verbotsbescheid nicht zu entnehmen.<\/p>\n

 <\/p>\n

2. Keine ausreichenden Datenschutzinformationen (Art. 13 DSGVO)<\/strong><\/p>\n

Bem\u00e4ngelt werden weiterhin unzureichende Datenschutzinformationen<\/strong> (Art. 13 DSGVO<\/a>). Offenkundig h\u00e4lt die italienische Beh\u00f6rde die Privacy Policy von OpenAI (https:\/\/openai.com\/policies\/privacy-policy<\/a>) f\u00fcr unzureichend und meint wom\u00f6glich, OpenAI m\u00fcsse bei jeder Verwendung von Personendaten als Trainingsdaten die jeweilige Person gesondert informieren. Wie dies m\u00f6glich sein soll, verraten die italienischen Datensch\u00fctzer nicht. Auch dies eine Herausforderung f\u00fcr nahezu jede andere KI-Anwendung, da man in Rom Unm\u00f6gliches von KI-Entwicklern verlangt.<\/p>\n

 <\/p>\n

3. Versto\u00df gegen das Prinzip der Datenrichtigkeit (Art. 5 Abs. 1 lit. d DSGVO)<\/strong><\/p>\n

Man hat ChatGPT in Rom Fragen gestellt, die nicht immer richtig beantwortet wurden. Da es sich hierbei um Fragen zu einzelnen Personen handelte, meint man bei der \u201eGarante\u201c, das Prinzip der Datenrichtigkeit<\/strong> (Art. 5 Abs. 1 lit. d DSGVO<\/a>) sei verletzt.<\/p>\n

Unrichtige Ergebnisse einer KI-Anwendung sind nat\u00fcrlich keine Besonderheit von ChatGPT. Erneut wird Unm\u00f6gliches verlangt. Dass jede Unrichtigkeit von (Trainings-)Daten einen Datenschutzversto\u00df darstellt, der mit einem Sofortverbot zu sanktionieren ist, hat bislang noch niemand vertreten (vgl. nur Schantz in Wolff\/Brink, Beck OK, Stand 1.11.2021, Art. 5 DSGVO Rz. 21 ff.).<\/p>\n

 <\/p>\n

4. Keine Alterskontrolle (Art. 8 DSGVO)<\/strong><\/p>\n

Zu guter Letzt bem\u00e4ngelt die italienische Beh\u00f6rde das Fehlen jeder Alterskontrolle bei den Nutzerinnen und Nutzern.<\/p>\n

Man reibt sich gleich zweimal die Augen. Zum einen, weil ChatGPT weit weniger f\u00fcr pornografische Inhalte bekannt ist als zahlreiche andere Seiten im Netz. Zum anderen, weil Art. 8 DSGVO<\/a> zwar strenge Anforderungen an die Einwilligung stellt, wenn sie von Minderj\u00e4hrigen erkl\u00e4rt wird. Eine Pflicht zur Altersverifikation der Nutzer eines Online-Dienstes ist Art. 8 DSGVO jedoch beim besten Willen nicht zu entnehmen.<\/p>\n

 <\/p>\n

Und die Moral?<\/strong><\/p>\n

Viel L\u00e4rm um Nichts? Oder ein mutiger Schritt in eine v\u00f6llig diffuse Richtung? Man darf gespannt sein, wie sich diese italienische Geschichte weiterentwickelt – zumal man in Rom fr\u00fcher oder sp\u00e4ter die Kolleginnen und Kollegen Datensch\u00fctzer aus den anderen EU-Staaten ins Boot holen muss und dabei gewiss nicht nur \u201eTutti Frutti\u201c, sondern \u00dcberzeugungsarbeit gefragt ist.<\/p>\n","protected":false},"excerpt":{"rendered":"

Dies h\u00e4tte kein deutscher Datensch\u00fctzer gewagt: Die italienische Datenschutzbeh\u00f6rde (die \u201eGarante\u201c) hat am vergangenen Donnerstag ein ChatGPT-Verbot verf\u00fcgt. Dies als Eilma\u00dfnahme mit sofortiger Wirkung. Der Verbotsbescheid l\u00e4sst sich online nachlesen (https:\/\/www.garanteprivacy.it\/home\/docweb\/-\/docweb-display\/docweb\/9870832); die zugeh\u00f6rige Pressemitteilung gibt es sogar in englischer Sprache (https:\/\/www.garanteprivacy.it\/home\/docweb\/-\/docweb-display\/docweb\/9870847#english). Soweit ersichtlich, st\u00fctzt sich das Verbot auf vier h\u00f6chst unterschiedliche Gr\u00fcnde. Ein \u201eTutti Frutti\u201c […]<\/p>\n","protected":false},"author":3,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":[],"categories":[1,34,9,51],"tags":[993,504,498,145,515,1004,772],"_links":{"self":[{"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/posts\/7026"}],"collection":[{"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/users\/3"}],"replies":[{"embeddable":true,"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/comments?post=7026"}],"version-history":[{"count":11,"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/posts\/7026\/revisions"}],"predecessor-version":[{"id":7042,"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/posts\/7026\/revisions\/7042"}],"wp:attachment":[{"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/media?parent=7026"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/categories?post=7026"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/tags?post=7026"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}