{"id":7439,"date":"2023-12-01T16:23:16","date_gmt":"2023-12-01T15:23:16","guid":{"rendered":"https:\/\/www.cr-online.de\/blog\/?p=7439"},"modified":"2023-12-06T10:03:35","modified_gmt":"2023-12-06T09:03:35","slug":"regulierung-von-basismodellen-llm-bruessel-drueckt-auf-die-bremse-deutsche-datenschutzbehoerden-geben-gas","status":"publish","type":"post","link":"https:\/\/www.cr-online.de\/blog\/2023\/12\/01\/regulierung-von-basismodellen-llm-bruessel-drueckt-auf-die-bremse-deutsche-datenschutzbehoerden-geben-gas\/","title":{"rendered":"Regulierung von Basismodellen (LLM): Br\u00fcssel dr\u00fcckt auf die Bremse \u2013 deutsche Datenschutzbeh\u00f6rden geben Gas!?"},"content":{"rendered":"<p>Auf europ\u00e4ischer und deutscher Ebene findet man gerade ein kontr\u00e4res Bild: die <strong>Regulierung von Basismodellen<\/strong> ist auf EU-Ebene am 10.11.2023 ins Stocken geraten. <em>Parlament<\/em> und Mitgliedstaaten sind sich u. a. <strong>uneinig dar\u00fcber, ob Basismodelle wie GPT4 in der KI-VO reguliert oder davon ausgenommen werden sollen<\/strong>. In einem Positionspapier vom 20.11.23 haben sich die EU-Mitgliedstaaten Deutschland, Frankreich und Italien gegen verbindliche Vorgaben f\u00fcr Basismodelle ausgesprochen und ein sanktionsloses Konzept der Selbstregulierung in die Diskussion eingebracht. Mit gro\u00dfer Spannung wird daher nun der n\u00e4chste Trilog am 6. Dezember 2023 erwartet, bei dem eine politische Einigung erhofft wird, aber nicht garantiert ist.<\/p>\n<p>Im Gegensatz hierzu <strong>fordern deutsche Datenschutzbeh\u00f6rden die Aufnahme klarer Verantwortlichkeiten f\u00fcr Hersteller und Betreiber in der KI-VO<\/strong> (vgl. <a href=\"https:\/\/datenschutzkonferenz-online.de\/media\/pm\/23-11-29_DSK-Pressemitteilung_KI-Regulierung.pdf\" target=\"_blank\" rel=\"noopener\">Pressenmitteilung der Konferenz der unabh\u00e4ngigen Datenschutzaufsichtsbeh\u00f6rden des Bundes und der L\u00e4nder zu KI-Regulierung vom 29. November 2023<\/a>. Um der <strong>gegenw\u00e4rtig bestehenden Rechtsunsicherheit<\/strong> beim Einsatz von KI \/ Basismodellen entgegenzuwirken, ver\u00f6ffentlichen insb. die deutschen Datenschutzbeh\u00f6rden \u201eein Paper nach dem anderen\u201c.<\/p>\n<p>&nbsp;<\/p>\n<p><strong>Leitf\u00e4den\/Papiere der Datenschutzaufsicht ohne viel Neues<\/strong><\/p>\n<p>Nach dem detaillierten Fragenkatalog der deutschen Datenschutzaufsichtsbeh\u00f6rden von Mitte April 2023 an Open AI, der \u2013 zumindest teilweise \u2013 auch f\u00fcr die datenschutzrechtliche Pr\u00fcfung anderer generativer KI herangezogen werden kann, sind derzeit von der Datenschutzaufsicht zwei \u00a0Diskussionspapiere\/Leitf\u00e4den verf\u00fcgbar, die eher wenig Neues bringen, aber klar die \u201e<strong>KI-Untauglichkeit\u201c der DSGVO <\/strong>aufzeigen:<\/p>\n<ul>\n<li><a href=\"https:\/\/www.baden-wuerttemberg.datenschutz.de\/rechtsgrundlagen-datenschutz-ki\/\" target=\"_blank\" rel=\"noopener\">Diskussionspapier des <em>Landesbeauftragten f\u00fcr den Datenschutz und die Informationsfreiheit Baden-W\u00fcrttemberg<\/em> (LfDI BW) zu Rechtsgrundlagen im Datenschutz beim Einsatz von K\u00fcnstlicher Intelligenz vom 7.11.2023<\/a><br \/>\nund<\/li>\n<li><a href=\"https:\/\/datenschutz-hamburg.de\/fileadmin\/user_upload\/HmbBfDI\/Datenschutz\/Informationen\/20231113_Checkliste_LLM_Chatbots_DE.pdf\" target=\"_blank\" rel=\"noopener\">Checkliste des <em>Hamburgischen Beauftragten f\u00fcr Datenschutz und Informationsfreiheit <\/em>(HmbBfDI) zum Einsatz LLM-basierter Chatbots vom 13.11.2023<\/a>.<\/li>\n<\/ul>\n<p>Nichtsdestotrotz geben diese beiden Dokumente Unternehmen und Beh\u00f6rden, die KI einsetzen wollen, einen gewissen Leitfaden mit Blick auf (datenschutzrechtliche) Pr\u00fcfungsgegenst\u00e4nde. Nicht erw\u00e4hnt werden in der Praxis wichtige datenschutzrechtliche Fragestellungen etwa im Hinblick auf das externe Hosting und Betrieb eines Basismodells, etwa Hosting und Betrieb auf der Microsoft Azure Plattform. Auch die M\u00f6glichkeit der <strong>Optimierung von Basismodellen f\u00fcr spezifische Anwendungsf\u00e4lle<\/strong> des jeweiligen Unternehmens bzw. der jeweiligen Beh\u00f6rde durch das Einbetten einer Vektordatenbank oder das sog. Fine-tuning und die <strong>Anwendung von Filtern<\/strong> bleiben unerw\u00e4hnt!<\/p>\n<p>&nbsp;<\/p>\n<p><strong>Im Einzelnen:<\/strong><\/p>\n<p><strong>Ansatz des LfDI BW v. 7.11.2023<\/strong><\/p>\n<p>Der LfDI BW hat am 7.11.23 sein Diskussionspapier \u201eRechtsgrundlagen im Datenschutz beim Einsatz von K\u00fcnstlicher Intelligenz\u201c ver\u00f6ffentlicht, das<strong> als Arbeitshilfe mit vielen Hinweisen und Leitfragen f\u00fcr Verantwortliche gemeint ist und<\/strong> auf der Website des LfDI BW kommentiert werden kann.<\/p>\n<p>Die Hauptaussagen des LfDI BW sind:<\/p>\n<p><strong>1. Phasen der Verarbeitung<\/strong><\/p>\n<p>Die datenschutzrechtlich relevanten Vorg\u00e4nge sind im Zusammenhang mit KI-Systemen mit Blick auf die folgenden Phasen der Verarbeitung zu differenzieren und jeweils aus der Perspektive sowohl der Anbietenden, Nutzenden und Betroffenen datenschutzrechtlich zu bewerten:<\/p>\n<ul>\n<li><em>Erhebung von Trainingsdaten f\u00fcr KI.<\/em><\/li>\n<li><em>Verarbeitung von Daten f\u00fcr das Training von KI.<\/em><\/li>\n<li><em>Bereitstellung von KI-Anwendungen.<\/em><\/li>\n<li><em>Nutzung von KI-Anwendungen.<\/em><\/li>\n<li><em>Nutzung von Ergebnissen nach dem Einsatz von KI-Anwendungen.<\/em><\/li>\n<\/ul>\n<p><strong>\u00a02. <\/strong><strong>Datenschutzrechtliche Verantwortlichkeit <\/strong><\/p>\n<p>Im Rahmen des Einsatzes von KI-Systemen kann f\u00fcr die Bestimmung der datenschutzrechtlichen Verantwortlichkeit eine differenzierte Tatsachenanalyse notwendig sein. In diesem Zusammenhang ist zu ermitteln, ob personenbezogene Daten lediglich auf Weisung und im Auftrag f\u00fcr eine andere Stelle verarbeitet werden und ob eine Partei ein eigenes Interesse an der Verarbeitung der personenbezogenen Daten aufweist<strong>.<\/strong><\/p>\n<p><strong>3. Rechtsgrundlagen<\/strong><\/p>\n<p>Im Grundsatz kann, wenn die jeweiligen Voraussetzungen geben sind, jede Rechtsgrundlage f\u00fcr den Einsatz von KI-Systemen im Sinne der oben genannten Phasen im Einzelfall herangezogen werden, um personenbezogene Daten unter Verwendung einer KI-Anwendung und\/oder f\u00fcr eine KI-Anwendung zu verarbeiten.<\/p>\n<p>Besondere Beachtung finden die <em>berechtigten Interessen<\/em>, <a href=\"https:\/\/online.otto-schmidt.de\/db\/dokument?id=ges_dsgvo_6\" target=\"_blank\" rel=\"noopener\">Art. 6 Abs. lit f. DSGVO<\/a>. Art. 6 Abs. 1 Buchst. f DS-GVO stelle aufgrund des offenen Tatbestands f\u00fcr die meisten Verarbeitungsprozesse im KI-Kontext eine besonders geeignete Rechtsgrundlage dar. Aufgrund der obligatorischen Interessenabw\u00e4gung kann die Norm allerdings nur bedingt eine Rechtssicherheit vermitteln, da es stets erforderlich sein wird, den konkreten Einzelfall umfassend zu bewerten.<\/p>\n<p>&nbsp;<\/p>\n<p><strong>Ansatz des HmbBfDIv. 13.11.2023 zum Einsatz LLM-basierter Chatbots<\/strong><\/p>\n<p>Der HmbBfDI hat eine\u00a0<a href=\"https:\/\/datenschutz-hamburg.de\/news\/checkliste-zum-einsatz-llm-basierter-chatbots\">Checkliste zum Einsatz von Chatbots<\/a>\u00a0auf Basis von Large Language Models (LLMs) wie bspw. ChatGPT auf Deutsch und Englisch ver\u00f6ffentlicht, abrufbar auf Deutsch <a href=\"https:\/\/datenschutz-hamburg.de\/fileadmin\/user_upload\/HmbBfDI\/Datenschutz\/Informationen\/20231113_Checkliste_LLM_Chatbots_DE.pdf\" target=\"_blank\" rel=\"noopener\">hier<\/a>.<\/p>\n<p>Die Checkliste umfasst folgende Punkte:<\/p>\n<ol>\n<li><span style=\"text-decoration: underline;\">Compliance-Regelungen<\/span> vorgeben (Weisungen\u00a0usw.)<\/li>\n<li><span style=\"text-decoration: underline;\">Datenschutzbeauftragte<\/span> einbinden<\/li>\n<li>Bereitstellung eines\u00a0<span style=\"text-decoration: underline;\">Funktions-Accounts<\/span> (damit Mitarbeiter nicht einen privaten Account verwenden m\u00fcssen; idealerweise solle das Account ohne Namen auskommen)<\/li>\n<li>Sichere\u00a0<span style=\"text-decoration: underline;\">Authentifizierung<\/span> (damit Angreifer das Account nicht missbrauchen k\u00f6nnen)<\/li>\n<li>Keine\u00a0<span style=\"text-decoration: underline;\">Eingabe personenbezogener Daten<\/span> (Kunden, Gesch\u00e4ftspartner, eigene Personendaten des Mitarbeiters)<\/li>\n<li>Keine\u00a0<span style=\"text-decoration: underline;\">Ausgabe personenbezogener Daten <\/span>(weil die AI Informationen aus dem Internet einbeziehen kann; Prompts sollten daher nicht auf Personendaten zielen, also bspw. keine \u201ewer\u201c-Fragen)<\/li>\n<li>Vorsicht bei\u00a0<span style=\"text-decoration: underline;\">personenbeziehbaren Daten <\/span>(d.h. keine Eingabe von Daten, die im Kontext einen Personenbezug erlauben)<\/li>\n<li>Opt-out des\u00a0<span style=\"text-decoration: underline;\">KI-Trainings<\/span> (z.B. Ausschalten von \u201eChat history and training\u201c)<\/li>\n<li>Opt-out der\u00a0<span style=\"text-decoration: underline;\">History<\/span> (besonders wenn mehrere das gleiche Account verwenden)<\/li>\n<li><span style=\"text-decoration: underline;\">Ergebnisse<\/span> auf Richtigkeit pr\u00fcfen<\/li>\n<li><span style=\"text-decoration: underline;\">Ergebnisse<\/span> auf Diskriminierung pr\u00fcfen<\/li>\n<li>Keine\u00a0<span style=\"text-decoration: underline;\">automatisierte Letztentscheidung<\/span> (keine \u00dcbernahme von Empfehlungen, weil nicht klar ist, wie eine Empfehlung zustandekommt)<\/li>\n<li>Besch\u00e4ftigte\u00a0<span style=\"text-decoration: underline;\">sensibilisieren<\/span> (betr. zul\u00e4ssigem Einsatz solcher\u00a0Tools)<\/li>\n<li><span style=\"text-decoration: underline;\">Datenschutz ist nicht alles <\/span>(auch Urheberrechte, Gesch\u00e4ftsgeheimnisse usw. sind auch zu ber\u00fccksichtigen)<\/li>\n<li>Weitere\u00a0<span style=\"text-decoration: underline;\">Entwicklung <\/span>verfolgen (z. B. die KI-VO, der auch Nutzer reguliert)<\/li>\n<\/ol>\n<p>&nbsp;<\/p>\n<p>&nbsp;<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Auf europ\u00e4ischer und deutscher Ebene findet man gerade ein kontr\u00e4res Bild: die Regulierung von Basismodellen ist auf EU-Ebene am 10.11.2023 ins Stocken geraten. Parlament und Mitgliedstaaten sind sich u. a. uneinig dar\u00fcber, ob Basismodelle wie GPT4 in der KI-VO reguliert oder davon ausgenommen werden sollen. In einem Positionspapier vom 20.11.23 haben sich die EU-Mitgliedstaaten Deutschland, [&hellip;]<\/p>\n","protected":false},"author":5246,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":[],"categories":[1],"tags":[1027,515,1004,772],"_links":{"self":[{"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/posts\/7439"}],"collection":[{"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/users\/5246"}],"replies":[{"embeddable":true,"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/comments?post=7439"}],"version-history":[{"count":10,"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/posts\/7439\/revisions"}],"predecessor-version":[{"id":7464,"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/posts\/7439\/revisions\/7464"}],"wp:attachment":[{"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/media?parent=7439"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/categories?post=7439"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/tags?post=7439"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}