{"id":6615,"date":"2022-06-30T09:10:37","date_gmt":"2022-06-30T08:10:37","guid":{"rendered":"http:\/\/www.cr-online.de\/blog\/?p=6615"},"modified":"2022-07-05T21:30:25","modified_gmt":"2022-07-05T20:30:25","slug":"der-staat-im-familienchat","status":"publish","type":"post","link":"https:\/\/www.cr-online.de\/blog\/2022\/06\/30\/der-staat-im-familienchat\/","title":{"rendered":"Der Staat im Familien-Chat: Einsch\u00e4tzung des Verordnungsentwurfs zur Chat-Kontrolle im Lichte der Grundrechtecharta"},"content":{"rendered":"<p><em>Julia Fluhr; Robert Pretschner<\/em><\/p>\n<p>Die <em>Europ\u00e4ische Kommission<\/em> hat am 11.5.2022 den <a href=\"https:\/\/eur-lex.europa.eu\/legal-content\/EN\/TXT\/?uri=COM%3A2022%3A209%3AFIN&amp;qid=1652451192472\" target=\"_blank\" rel=\"noopener\"><strong>Verordnungsentwurf zur Pr\u00e4vention und Bek\u00e4mpfung des sexuellen Missbrauchs von Kindern<\/strong><\/a> ver\u00f6ffentlicht. Zweifellos steht angesichts von weltweit <a href=\"https:\/\/ec.europa.eu\/commission\/presscorner\/detail\/de\/ip_22_2976\">85 Millionen<\/a> Bildern und Videos mit Darstellungen von sexuellem Kindesmissbrauch allein im Jahr 2021 au\u00dfer Frage, dass es zur Bek\u00e4mpfung sexuellen Missbrauchs von Kindern effektiver Ma\u00dfnahmen und der daf\u00fcr erforderlichen gesetzlichen Grundlagen bedarf, zumal die Dunkelziffer h\u00f6her sein d\u00fcrfte. Der Verordnungsentwurf begr\u00fcndet weitreichende Verpflichtungen von Hosting-Diensten und interpersonellen Kommunikationsdiensten, deren Vereinbarkeit mit der Grundrechtecharta (GrCh) zweifelhaft ist. Mitglieder der <em>Bundesregierung<\/em>, etwa <a href=\"https:\/\/twitter.com\/MarcoBuschmann\/status\/1527631384830943234\">Bundesjustizminister <em>Buschmann<\/em> <\/a>sehen den Verordnungsentwurf bislang kritisch.<\/p>\n<p><strong>1. Konzeption des Verordnungsentwurfs<\/strong><\/p>\n<p>Der Verordnungsentwurf verpflichtet in erster Linie <strong>Hosting-Dienste<\/strong> und <strong>interpersonelle Kommunikationsdienste<\/strong>. Der Begriff der <em>Hosting- oder Vermittlungsdienste<\/em> (Art. 2 lit. a des Verordnungsentwurfs verweist auf <a href=\"https:\/\/eur-lex.europa.eu\/legal-content\/de\/TXT\/?qid=1608117147218&amp;uri=COM%3A2020%3A825%3AFIN\">Art. 2 lit. f des Entwurfs zum neuen Digital Service Act<\/a>) umfasst etwa Social-Media-Plattformen und Cloud-Dienste, w\u00e4hrend der Begriff der <em>interpersonellen Kommunikationsdienste<\/em> insb. <strong>Messenger-Dienste<\/strong> erfasst. Die Anbieter*innen dieser Dienste sollen nach Art. 3 des Verordnungsentwurfs zun\u00e4chst das Risiko ermitteln, dass der von ihnen angebotene Dienst zum Zwecke des sexuellen Missbrauchs von Kindern genutzt wird.<\/p>\n<p>Erst, wenn die zust\u00e4ndige nationale Beh\u00f6rde eine <strong>Aufdeckungsanordnung<\/strong> aufgrund des ermittelten Risikos erlassen hat, Art. 7 des Verordnungsentwurfs, sollen die Anbieter*innen die \u201eTechnologien\u201c, Art. 10 des Verordnungsentwurfs, zur <strong>Chat-Kontrolle<\/strong> einsetzen d\u00fcrfen. Art. 10 bleibt in seinen Formulierungen vage: Nach dessen Abs. 1 sollen die Anbieter*innen Technologien installieren und betreiben, die die Verbreitung von bekanntem oder neuem Material von sexuellem Missbrauch bzw. die Anwerbung von Kindern erkennen k\u00f6nnen. Erw\u00e4gungsgrund 26 des Verordnungsentwurfs sieht in Satz 2 dabei ausdr\u00fccklich vor, dass diese Technologien unabh\u00e4ngig von denjenigen Technologien eingesetzt werden d\u00fcrfen, die die Anbieter*innen zur Erbringung ihrer Dienste einsetzen.<\/p>\n<p>Zum einen erm\u00f6glicht der Verordnungsentwurf nicht nur die <strong>Kontrolle<\/strong> verd\u00e4chtiger Nutzer*innen oder gef\u00e4hrdeter Gruppen, sondern <strong>ausnahmslos aller Nutzer*innen des jeweiligen Dienstes<\/strong>. Art. 7 Abs. 8 des Verordnungsentwurfs sieht zwar die M\u00f6glichkeit von Einschr\u00e4nkungen der Aufdeckungsanordnung vor, um negative Konsequenzen f\u00fcr Betroffene zu vermeiden, ausdr\u00fccklich erw\u00e4hnt Art. 7 Abs. 8 des Verordnungsentwurfs aber nur die Einschr\u00e4nkung der Aufdeckungsanordnung auf bestimmte Komponenten des Dienstes. Jedoch nicht\u2013 im Gegensatz zu Erw\u00e4gungsgrund 23 des Verordnungsentwurfs \u2013 Einschr\u00e4nkungen auf bestimmte Nutzer*innen oder Nutzer*innengruppen. Die Einschr\u00e4nkung der Kontrolle auf bestimmte Nutzer*innen erscheint auch praktisch schwierig umzusetzen: Selbst wenn eine verl\u00e4ssliche Datengrundlage vorhanden w\u00e4re, die Auskunft dar\u00fcber geben w\u00fcrde, welche Nutzer*innengruppen ein erh\u00f6htes Gef\u00e4hrdungspotenzial aufweisen, kann der Dienst nicht kontrollieren, zu welcher Gruppe ein*e Nutzer*in geh\u00f6rt, es sei denn, Identit\u00e4tskontrollen w\u00fcrden verpflichtend eingef\u00fchrt. Nach jetzigem Stand des Verordnungsentwurfs ist es also sehr wahrscheinlich, dass alle Nutzer*innen des jeweiligen Dienstes verdachtsunabh\u00e4ngig von der Chat-Kontrolle erfasst w\u00fcrden.<\/p>\n<p>Zum anderen erm\u00f6glicht die so offene Formulierung des Art. 10 die <strong>KI-basierte \u00dcberpr\u00fcfung aller Online-Inhalte<\/strong> der Nutzer*innen, wobei die KI nicht Inhalte selbst, sondern lediglich vordefinierte Muster erkennen soll. Dennoch besteht die Gefahr von falsch-positiven Treffern, insb. da nicht nur bekannte Bilder sondern auch Textbausteine erkannt werden sollen.<\/p>\n<p>Ferner birgt der Einsatz solcher Technologien, worauf <a href=\"https:\/\/verfassungsblog.de\/providers-are-watching-us\/\">hier<\/a> schon hingewiesen wurde, erhebliche Missbrauchsgefahren.<\/p>\n<p>Nach Art. 12 des Verordnungsentwurfs sollen die Anbieter*innen anschlie\u00dfend alle Verdachtsmomente von sexuellem Kindesmissbrauch unter Einbeziehung aller wesentlichen Verkehrsdaten, vgl. Art. 13 des Verordnungsentwurfs, an die einzurichtende EU-Zentralstelle \u00fcbermitteln.<\/p>\n<p><strong>2. Tiefgreifende Grundrechtseingriffe <\/strong><\/p>\n<p>Die verdachtsunabh\u00e4ngige \u00dcberpr\u00fcfung aller Online-Inhalte der Nutzer*innen bedeutet einen <strong>schwerwiegenden Eingriff<\/strong> in <a href=\"https:\/\/online.otto-schmidt.de\/db\/dokument?id=ges_grch_7\" target=\"_blank\" rel=\"noopener\">Art. 7<\/a>, <a href=\"https:\/\/online.otto-schmidt.de\/db\/dokument?id=ges_grch_8\" target=\"_blank\" rel=\"noopener\">Art. 8<\/a> und <a href=\"https:\/\/online.otto-schmidt.de\/db\/dokument?id=ges_grch_11\" target=\"_blank\" rel=\"noopener\">Art. 11 GrCh<\/a>. Die <em>Kommission<\/em> verweist in ihrer Begr\u00fcndung des Verordnungsentwurfs lediglich darauf, dass die Rechte aus Art. 7, 8 und 11 GrCh zwar von gr\u00f6\u00dfter Bedeutung, allerdings nicht absolut gesch\u00fctzt seien. Mit der Bek\u00e4mpfung von sexuellem Kindesmissbrauch w\u00fcrden hochrangige Rechtsg\u00fcter gesch\u00fctzt, weswegen gem. <a href=\"https:\/\/online.otto-schmidt.de\/db\/dokument?id=ges_grch_52\" target=\"_blank\" rel=\"noopener\">Art. 52 Abs. 1 GrCh<\/a> eine Rechtfertigung m\u00f6glich sei.<\/p>\n<p>Art. 8 GrCh garantiert den <strong>Schutz personenbezogener Daten<\/strong>, Art. 7 GrCh die <strong>Achtung des Privat- und Familienlebens<\/strong>, wobei beide Garantien vom <a href=\"https:\/\/curia.europa.eu\/juris\/document\/document.jsf;jsessionid=EA503C57C9DF3B3118C0971BC2058C48?text=&amp;docid=150642&amp;pageIndex=0&amp;doclang=de&amp;mode=lst&amp;dir=&amp;occ=first&amp;part=1&amp;cid=2374217\">EuGH<\/a> in der Regel parallel angewandt werden.<\/p>\n<p>Aus Art. 8 Abs. 2 S. 1 GrCh ergibt sich, dass ein <strong>Eingriff in Art. 8 GrCh<\/strong> dann vorliegt, wenn Daten \u201everarbeitet\u201c werden. Entsprechend dem Verst\u00e4ndnis in <a href=\"https:\/\/online.otto-schmidt.de\/db\/dokument?id=ges_dsgvo_4\" target=\"_blank\" rel=\"noopener\">Art. 4 Nr. 2 DSGVO<\/a> umfasst der Begriff der Verarbeitung jeden Vorgang im Zusammenhang mit personenbezogenen Daten, u.a. das Erheben, Erfassen und Ordnen, die Speicherung und Anpassung sowie die Offenlegung und \u00dcbermittlung von Daten. Der Verordnungsentwurf soll Anbieter*innen dazu verpflichten, KI-basierte Kontrollen vorzunehmen, die zwar keine Inhalte, sondern nur vordefinierte Muster erkennen soll. Allein die \u00dcberpr\u00fcfung f\u00e4llt schon unter den weiten Eingriffsbegriff des Art. 8 Abs. 2 S. 1 GrCh. Auch die Erfassung der Treffer, deren Speicherung sowie Weiterleitung an die zust\u00e4ndigen Beh\u00f6rden bedeutet einen Eingriff. Jedoch wiegt bereits der Eingriff durch die \u00dcberpr\u00fcfung, angesichts der Tatsache, dass ohne Ausnahme alle Kommunikationsinhalte von der Kontrolle erfasst werden, besonders schwer, denn hierdurch werden private und intime Kommunikationsinhalte erfasst. Es liegt also zugleich ein Eingriff in Art.\u00a07\u00a0GrCh vor.<\/p>\n<p>Angesichts der in Art.\u00a010\u00a0Abs.\u00a05 des Verordnungsentwurfs vorgesehenen Informationspflicht der Anbieter*innen \u00fcber die Durchf\u00fchrung der Kontrollma\u00dfnahmen, k\u00f6nnte ein <strong>Eingriffsausschluss in Form einer Einwilligung<\/strong>, vgl. <a href=\"https:\/\/online.otto-schmidt.de\/db\/dokument?id=ges_grch_8\" target=\"_blank\" rel=\"noopener\">Art. 8 Abs. 2 S. 1 GrCh<\/a>, vorliegen. Allerdings m\u00fcssen wegen der zentralen Bedeutung des Art. 8 GrCh hohe Anforderungen an eine solche Einwilligung gestellt werden. Der EuGH hat in der <a href=\"https:\/\/curia.europa.eu\/juris\/document\/document.jsf?text=&amp;docid=79001&amp;pageIndex=0&amp;doclang=de&amp;mode=lst&amp;dir=&amp;occ=first&amp;part=1&amp;cid=2376797\">Rechtssache <em>Schecke<\/em><\/a> entschieden, dass die blo\u00dfe Unterrichtung nicht f\u00fcr eine Einwilligung i.S.d. Art. 8 Abs. 2 S. 1 GrCh gen\u00fcgt. Weder die reine Kenntnisnahme der Informationen noch die Weiternutzung des entsprechenden Dienstes gen\u00fcgen daher den Anforderungen an eine Einwilligung i.S.d. Art. 8 Abs. 2 S. 1 GrCh.<\/p>\n<p>Gem. Art.\u00a012 und 13 des Verordnungsentwurfs werden die <strong>Verdachtsmomente an die zust\u00e4ndigen Beh\u00f6rden weitergeleitet<\/strong>. Da die Kontrolle KI-basiert erfolgt und nicht nur Bilder, sondern auch variable Texte \u00fcberpr\u00fcft werden sollen, sind <strong>falsch-positive Meldungen<\/strong> nicht auszuschlie\u00dfen. Dies r\u00e4umt auch die <em>Kommission<\/em> in der Begr\u00fcndung des Verordnungsentwurfs ein. Die <em>Kommission<\/em> sieht hierin allerdings keinen schwerwiegenden Grundrechtseingriff, da die \u201eharmlosen\u201c Inhalte nur von einer KI und nicht von einem Menschen erfasst und ausgewertet w\u00fcrden. Dieser Einsch\u00e4tzung kann nicht gefolgt werden. Sobald die Anbieter*innen Verdachtsmomente an die zust\u00e4ndigen Beh\u00f6rden weitergeleitet haben, soll dort eine manuelle \u00dcberpr\u00fcfung erfolgen. Mithin w\u00fcrden auch vom Anwendungsbereich der Verordnung nicht erfasste, \u201eharmlose\u201c, grundrechtlich gesch\u00fctzte Kommunikationsinhalte zur Kenntnis Dritter gelangen, was einen erneuten Eingriff in Art. 7, 8 und 11 GrCh bedeutete.<\/p>\n<p>Ferner kann allein das Wissen der Nutzer*innen um die \u00dcberwachungsma\u00dfnahme und das damit einhergehende Gef\u00fchl des dauernden \u00dcberwachtseins dazu f\u00fchren, dass Nutzer*innen nicht ebenso frei kommunizieren, wie sie es ohne die entsprechenden \u00dcberwachungsma\u00dfnahmen tun w\u00fcrden. Dies bedeutet einen <strong>Eingriff in Art. 7 GrCh<\/strong> sowie in das von Art. 11 Abs. 1 GrCh gesch\u00fctzte <strong>Recht zur freien Meinungs\u00e4u\u00dferung<\/strong>. Es besteht sogar die Gefahr, dass die Nutzer*innen aus Angst vor staatlicher Kontrolle auf eine freie Meinungs\u00e4u\u00dferung vollst\u00e4ndig verzichten. Das Argument, dass noch andere Kommunikationswege best\u00fcnden und Online-Dienste nicht zwingend verwendet werden m\u00fcssen, kann hiergegen nicht vorgebracht werden: Zum einen sch\u00fctzt Art. 11 Abs. 1 GrCh auch die Art und Weise der Meinungs\u00e4u\u00dferung \u2013 mithin auch die Wahl des Kommunikationsmittels \u2013, zum anderen ist die Online-Kommunikation mittlerweile zentraler Baustein der \u00f6ffentlichen Kommunikationsordnung, sodass ein Verzicht auf deren Nutzung einen teilweisen Verzicht auf Kommunikation schlechthin bedeuten w\u00fcrde.<\/p>\n<p>\u00dcberdies w\u00fcrde die <strong>Chat-Kontrolle<\/strong> einen Eingriff in die von <a href=\"https:\/\/online.otto-schmidt.de\/db\/dokument?id=ges_grch_11\" target=\"_blank\" rel=\"noopener\">Art. 11 Abs. 2 GrCh<\/a> gesch\u00fctzte <strong>Pressefreiheit<\/strong> bedeuten. Vom Schutzbereich erfasst sind entsprechend der <a href=\"https:\/\/hudoc.echr.coe.int\/eng?i=001-100448\">Rechtsprechung des EGMR<\/a> alle mit der Eigenart der Medienarbeit verbundenen T\u00e4tigkeiten, insb. auch die Beschaffung von Informationen und die Geheimhaltung von Informationsquellen. Aufgrund der Chat-Kontrolle w\u00e4re Journalist*innen und ihren Informant*innen eine gesch\u00fctzte Kommunikation nicht mehr m\u00f6glich. Informant*innen m\u00fcssten ihre Aufdeckung bef\u00fcrchten, Journalist*innen k\u00f6nnten den Quellenschutz nicht mehr garantieren.<\/p>\n<p>Der Verordnungsentwurf enth\u00e4lt in Art. 7 Abs. 9 zwar Obergrenzen dazu, wie lange eine Aufdeckungsanordnung ihre G\u00fcltigkeit behalten darf, jedoch enth\u00e4lt der Verordnungsentwurf keine Eingrenzung dazu, ob auch in der Vergangenheit gesendete Inhalte von der Kontrolle erfasst werden d\u00fcrfen oder nicht \u2013 dies wird vielmehr in das Ermessen der Beh\u00f6rden gestellt, welche die Aufdeckungsanordnung erlassen sollen.<\/p>\n<p>Denkbar ist folglich, dass von der Chat-Kontrolle auch vergangene, noch nicht gel\u00f6schte und daher noch vorhandene, Nachrichten und Inhalte erfasst werden, mithin eine <strong>r\u00fcckwirkende Kontrolle<\/strong> stattfindet. Die Nutzer*innen durften sich jedoch aufgrund bisheriger Standards der von ihnen gew\u00e4hlten Anbieter*innen auf dieses fortbestehende Ma\u00df an Kontrolle oder Nicht-Kontrolle verlassen. Aufgrund sich st\u00e4ndig \u00e4ndernder Datenschutzstandards der Anbieter*innen kann daran gezweifelt werden, ob dieses Vertrauen der Nutzer*innen \u00fcberhaupt schutzw\u00fcrdig ist. So lie\u00dfe sich etwa argumentieren, dass Nutzer*innen von Online-Kommunikationsmitteln stets damit zu rechnen haben, dass sich &#8211; angesichts stets fortentwickelnder Technologien und einer sich ausweitenden staatlicher Kontrolle auch von Online-Inhalten &#8211; die entsprechenden Standards \u00e4ndern und Kontrollma\u00dfnahmen ausgeweitet werden. Eine solche Argumentation w\u00fcrde aber den Nutzer*innen eine bewusste, gezielte und m\u00fcndige Auswahl des jeweiligen Online-Dienstes absprechen. Nutzer*innen, f\u00fcr die Datenschutz von zentraler Bedeutung ist, w\u00e4hlen etwa sehr bewusst Messenger-Dienste mit einer Ende-zu-Ende Verschl\u00fcsselung oder Dienste, die gro\u00dfen Wert auf Anonymit\u00e4t ihrer Nutzer*innen legen. Durch die Wahl solcher Dienste entscheiden sich Nutzer*innen folglich f\u00fcr einen bestimmten Schutzstandard. Dadurch wird ein schutzw\u00fcrdiger Vertrauenstatbestand geschaffen. W\u00fcrde dieser nun durch Umsetzung der Chat-Kontrolle r\u00fcckwirkend abgesenkt, w\u00fcrde dieses Vertrauen entt\u00e4uscht. Eine Kontrolle von bereits in der Vergangenheit \u00fcbertragenen Inhalten bedeutet damit nicht nur einen Grundrechtseingriff, sondern zus\u00e4tzlich einen Versto\u00df gegen das Prinzip des Vertrauensschutzes.<\/p>\n<p><strong>3. Unzureichende Schutzmechanismen <\/strong><\/p>\n<p>Art. 10 Abs. 4 lit. d. des Verordnungsentwurfs soll die Anbieter*innen zur <strong>Einrichtung von Beschwerdem\u00f6glichkeiten<\/strong> verpflichten, Art. 34 des Verordnungsentwurfs sieht eine Beschwerdem\u00f6glichkeit bei nationalen Beh\u00f6rden vor. Hierdurch kann aber allenfalls nachtr\u00e4glicher Rechtsschutz gew\u00e4hrt werden. Art. 9 Abs. 1 des Verordnungsentwurfs sieht zwar Rechtsschutzm\u00f6glichkeiten bereits gegen die Aufdeckungsanordnung vor, allerdings stellt sich die Frage, wie hier der Rechtschutz effektiv ausgestaltet werden kann. Art. 10 Abs. 5 lit. c sieht zwar vor, dass die Anbieter*innen ihrer Nutzer*innen \u00fcber die Rechtsschutzm\u00f6glichkeiten des Art.\u00a09 Abs. 1 informieren sollen. Die Nutzer*innen werden aber unter Umst\u00e4nden erst zeitgleich zum Beginn der Kontrolle informiert, Art. 10 Abs. 5 des Verordnungsentwurfs, so dass sie Rechtsschutz zumindest teilweise nur nachtr\u00e4glich erlangen k\u00f6nnten. Ferner k\u00f6nnen aus Gr\u00fcnden der Effektivit\u00e4t die Informationspflichten eingeschr\u00e4nkt werden, vgl. Art. 10 Abs. 5 a.E. des Verordnungsentwurfs.<\/p>\n<p>Insgesamt bedeutete die Umsetzung des Verordnungsentwurfs also einen <strong>schwerwiegenden Eingriff in hochrangige Grundrechte<\/strong>. Angesichts der demokratiekonstituierenden Bedeutung der Meinungs- und Pressefreiheit und dem engen Bezug des Schutzes personenbezogener Daten zum Allgemeinen Pers\u00f6nlichkeitsrecht wiegen diese Eingriffe besonders schwer. Die im Verordnungsentwurf vorgesehenen Beschwerde- und Rechtsschutzm\u00f6glichkeiten sind unzureichend und k\u00f6nnen den Eingriff daher nicht ausreichend abmildern.<\/p>\n<p><strong>4. Rechtfertigung fraglich <\/strong><\/p>\n<p>Angesichts der Intensit\u00e4t des Eingriffs kann dieser nur mit dem Schutz h\u00f6chstrangiger Rechtsg\u00fcter gerechtfertigt werden. Erkl\u00e4rtes Ziel des Verordnungsentwurfs ist der Schutz vor sexuellem Kindesmissbrauch. Es soll die k\u00f6rperliche und seelische Integrit\u00e4t von Kindern sowie ihre Menschenw\u00fcrde gesch\u00fctzt werden, indem sie insbesondere vor unmenschlicher und erniedrigender Behandlung bewahrt werden sollen. Diese Rechtsg\u00fcter sind von h\u00f6chstem Rang und daher grunds\u00e4tzlich geeignet, auch tiefgreifende Grundrechtseingriffe zu rechtfertigen.<\/p>\n<p>Ferner w\u00fcrde eine umfassende Chat-Kontrolle Kindern einen deutlich h\u00f6heren Schutz vor sog. Grooming im Rahmen ihrer allt\u00e4glichen Nutzung sozialer Medien gew\u00e4hrleisten und so bereits die Vorbereitung schwerer sexueller Straftaten verhindern.<\/p>\n<p>Zu ber\u00fccksichtigen sind au\u00dferdem die staatlichen Schutzpflichten. So hat auch der EuGH in einem seiner Urteile zur Vorratsdatenspeicherung (<a href=\"https:\/\/eur-lex.europa.eu\/legal-content\/DE\/TXT\/PDF\/?uri=CELEX:62018CJ0511&amp;from=DE\"><em>La Quadrature du Net<\/em><\/a><em>, <\/em>Rn. 126) anerkannt, dass sich aus <a href=\"https:\/\/online.otto-schmidt.de\/db\/dokument?id=ges_grch_7\" target=\"_blank\" rel=\"noopener\">Art.\u00a07 GrCh<\/a> sowie <a href=\"https:\/\/online.otto-schmidt.de\/db\/dokument?id=ges_grch_3\" target=\"_blank\" rel=\"noopener\">Art. 3<\/a> und <a href=\"https:\/\/online.otto-schmidt.de\/db\/dokument?id=ges_grch_4\" target=\"_blank\" rel=\"noopener\">4 GrCh<\/a> Schutzpflichten gegen\u00fcber Opfern, insb. auch minderj\u00e4hrigen Opfern, sexueller Gewalt ergibt.<\/p>\n<p>Zweifelhaft erscheint aber, ob die Grundrechtseingriffe zum Schutz der genannten Rechtsg\u00fcter auch einer <strong>Abw\u00e4gung<\/strong> standhalten. Hinsichtlich der <strong>Eignung<\/strong> der Chat-Kontrolle zur Verfolgung der genannten Ziele, erscheint zun\u00e4chst fraglich, ob die Sicherheitsbeh\u00f6rden den gemeldeten Verdachtsmomenten \u00fcberhaupt werden nachkommen k\u00f6nnen. So ist laut <a href=\"https:\/\/www.ccc.de\/de\/updates\/2022\/eu-kommission-will-alle-chatnachrichten-durchleuchten\">ChaosComputerClub<\/a> aufgrund der KI-basierten Kontrolle der Online-Inhalte eine \u00dcberflutung der Beh\u00f6rden mit &#8211; teils unbegr\u00fcndeten &#8211; Verdachtsmomenten zu bef\u00fcrchten. Falsch-positive Verdachtsmeldungen bedeuten nicht nur einen erneuten Grundrechtseingriff, sondern auch eine zus\u00e4tzliche Belastung der Sicherheitsbeh\u00f6rden. Schon jetzt haben die Beh\u00f6rden mit knappen personellen Ressourcen zu k\u00e4mpfen. So deckte etwa eine gemeinsame Recherche von <a href=\"https:\/\/www.spiegel.de\/netzwelt\/netzpolitik\/sexueller-missbrauch-von-kindern-wie-der-staat-im-kampf-gegen-kinderpornografie-versagt-a-f620b95d-ac4f-47d2-bdd3-c37c57eb0035\">Panorama, STRG_F und dem Spiegel<\/a> auf, dass Ermittler*innen zwar vier Drahtzieher*innen des P\u00e4dokriminellen-Netzwerks \u201eBoystown\u201c festgenommen h\u00e4tten, die Fotos und Videos jedoch nicht bei den entsprechenden Speicherdiensten entfernen lie\u00dfen. Angesichts dieser Defizite ist zweifelhaft, ob die Sicherheitsbeh\u00f6rden den durch die Chat-Kontrolle gemeldeten Verdachtsmomenten \u00fcberhaupt mit entsprechenden Ermittlungen folgen k\u00f6nnten.<\/p>\n<p>Problematisch ist weiter, ob die im Verordnungsentwurf vorgesehenen Ma\u00dfnahmen <strong>erforderlich<\/strong> sind. Sicherlich wird die pauschale Durchleuchtung privater Kommunikation zu Ermittlungserfolgen f\u00fchren. Laut <a href=\"https:\/\/www.zeit.de\/digital\/datenschutz\/2022-05\/chatkontrolle-eu-kindesmissbrauch-ueberwachung-datenschutz\/komplettansicht\">Ermittler*in<\/a>nen gelte aber die Nutzung von Smartphones und Messengern in p\u00e4dokriminellen Kreisen als \u201eworst practice\u201c. In Darknetforen existierten zahlreiche und detaillierte Anleitungen f\u00fcr eine m\u00f6glichst anonyme Vorgehensweise. Daher erscheint die Erforderlichkeit der pauschalen und verdachtsunabh\u00e4ngigen Kontrolle von Hosting-Diensten und interpersonellen Kommunikationsdiensten fraglich. Effektiver k\u00f6nnte vielmehr der Einsatz von geschultem Personal und Expert*innen sein, die gezielt bestimmten Verdachtsmomenten und bestimmten kriminellen Netzwerken nachgehen und insbesondere in Darknetforen ermitteln. Zuzugeben ist, dass es angesichts der beschriebenen Knappheit personeller Ressourcen zweifelhaft erscheint, ob die gro\u00dfe Zahl ben\u00f6tigter Expert*innen \u00fcberhaupt zu erreichen ist. Zu ber\u00fccksichtigen ist bei dieser Argumentation jedoch, dass der Staat sich nicht pauschal auf die Knappheit personeller Ressourcen berufen darf, um Grundrechtseingriffe zu rechtfertigen.<\/p>\n<p>Eignung und Erforderlichkeit der im Verordnungsentwurf vorgesehenen Grundrechtseingriffe erscheinen folglich schon zweifelhaft. Problematisch ist aber auch, ob die Grundrechtseingriffe einer <strong>Abw\u00e4gung im engeren Sinne<\/strong> standhalten w\u00fcrden.<\/p>\n<p>Zu ber\u00fccksichtigen ist, dass die gesch\u00fctzten Rechtsg\u00fcter von h\u00f6chstem Rang sind. Ferner betont die <em>Kommission <\/em>in der Begr\u00fcndung des Verordnungsentwurfs (S. 14), dass das automatische Scannen interpersoneller Kommunikationsinhalte h\u00e4ufig der einzige Weg ist, die verbotenen Inhalte aufzudecken und dass durch den Einsatz KI-basierter Technologien Inhalte gerade nicht selbst erkannt werden, sondern nur vorgegebene Muster.<\/p>\n<p>Der EuGH verlangt in st\u00e4ndiger Rechtsprechung (vgl. etwa <em>La Quadrature du Net, <\/em>Rn. 130), dass Eingriffe in das Grundrecht auf Achtung des Privatlebens auf das absolut Notwendige begrenzt werden. Diesen Anforderungen soll die Chat-Kontrolle durch die Stufen der Risikoermittlung und des anschlie\u00dfenden Erlasses einer ggf. beschr\u00e4nkten Aufdeckungsanordnung Rechnung tragen: Durch diesen Mechanismus sollen die negativen Konsequenzen f\u00fcr die Grundrechtstr\u00e4ger*innen und der Eingriff auf das Notwendige beschr\u00e4nkt werden und so die Vereinbarkeit mit dem Verh\u00e4ltnism\u00e4\u00dfigkeitsprinzip gewahrt werden.<\/p>\n<p>Allerdings ist zu bedenken, dass der <strong>Einsatz wahrscheinlichkeitsbasierter Risikoermittlungen<\/strong> den Begriff der Notwendigkeit nahezu <em>ad absurdum<\/em> f\u00fchrt: Art. 3 Abs. 2 des Verordnungsentwurfs sieht bestimmte Kriterien vor, anhand derer das Risiko ermittelt werden soll, ob der jeweilige Dienst zum Zwecke des Missbrauchs von Kindern eingesetzt wird oder eingesetzt werden k\u00f6nnte. Diese Kriterien sind aber gerade nicht abschlie\u00dfend. Je mehr Kriterien eingesetzt und je mehr Daten zur Risikoermittlung genutzt werden, desto eher wird man ein Risiko zur verbotenen Nutzung des entsprechenden Dienstes identifizieren k\u00f6nnen. Da es gerade nur auf das Risiko, nicht auf den Umfang der Nutzung des jeweiligen Dienstes zum Zwecke des Kindesmissbrauchs ankommt, ist davon auszugehen, dass nahezu alle allgemein verbreiteten digitalen Dienste ein entsprechendes Risiko aufweisen und folglich eine entsprechende Aufdeckungsanordnung ergehen wird.<\/p>\n<p>Ferner ist auch die Einschr\u00e4nkung der Aufdeckungsanordnung auf bestimmte Nutzer*innengruppen schon praktisch schwierig (s.o.), sodass auch unverd\u00e4chtige und tats\u00e4chlich ungef\u00e4hrlicher Nutzer*innen von der Kontrolle erfasst werden. Der Verordnungsentwurf kann mithin gerade keine Beschr\u00e4nkung des Eingriffs auf das Notwendige gew\u00e4hrleisten und ist daher schwerlich mit den Vorgaben der EuGH-Rechtsprechung vereinbar.<\/p>\n<p>\u00dcberdies bedeuten gerade falsch-positive Treffer und die entsprechende Weiterleitung an die zust\u00e4ndigen Beh\u00f6rden einen besonders schweren Eingriff in Grundrechte Unschuldiger und kann daher diesen gegen\u00fcber nicht verh\u00e4ltnism\u00e4\u00dfig sein.<\/p>\n<p>Weiter verlangt der <strong>EuGH<\/strong> in seinen Urteilen zur Vorratsdatenspeicherung, dass die betreffenden Unionsregelungen klare und pr\u00e4zise <strong>Einschr\u00e4nkungen f\u00fcr Tragweite und Anwendung der fraglichen Ma\u00dfnahmen<\/strong>, die in Art. 7, 8 und 11 GrCh eingreifen, vorsehen (<a href=\"https:\/\/eur-lex.europa.eu\/legal-content\/DE\/TXT\/PDF\/?uri=CELEX:62012CJ0293&amp;from=de\"><em>Digital Rights<\/em><\/a><em>, <\/em>Rn. 54f.; <em>La Quadrature du Net, <\/em>Rn. 132). Diese Erfordernisse sind nach der EuGH-Rechtsprechung umso bedeutsamer, wenn Daten automatisiert verarbeitet werden und die Gefahr des missbr\u00e4uchlichen Zugriffs durch Dritte besteht und es um sensible personenbezogene Daten geht (<a href=\"https:\/\/eur-lex.europa.eu\/legal-content\/DE\/TXT\/PDF\/?uri=CELEX:62012CJ0293&amp;from=de\"><em>Digital Rights<\/em><\/a><em>, <\/em>Rn. 54f.; <em>La Quadrature du Net, <\/em>Rn. 132). Vorliegend werden, wie bereits aufgezeigt, private und intime Kommunikationsinhalte, mithin sensible personenbezogene Daten automatisiert erfasst und verarbeitet. Zudem besteht die Gefahr des missbr\u00e4uchlichen Zugriffs von dritter Seite. Um den Anforderungen des EuGH zu gen\u00fcgen, m\u00fcsste die Verordnung selbst also Einschr\u00e4nkungen zur Tragweite und Anwendung der Chat-Kontrolle enthalten. Solche Einschr\u00e4nkungen werden in der Verordnung jedoch gerade nicht vorgesehen, sondern die Abw\u00e4gung wird den zust\u00e4ndigen Gerichten bzw. Beh\u00f6rden \u00fcberlassen, also gerade nicht vom Gesetzgeber selbst vorgenommen. Auch diesen Vorgaben der EuGH-Rechtsprechung kann die Verordnung folglich nicht gen\u00fcgen.<\/p>\n<p>Gerade unverd\u00e4chtigen und tats\u00e4chlich ungef\u00e4hrlichen Nutzer*innen gegen\u00fcber wiegt der Eingriff besonders schwer. Auch die vorgesehenen Schutzmechanismen sind unzureichend (s.o.) und k\u00f6nnen die Grundrechtseingriffe allenfalls geringf\u00fcgig abmildern.<\/p>\n<p>Da zu bef\u00fcrchten steht, dass zahlreiche Anbieter*innen von Online-Diensten die Chat-Kontrolle werden durchf\u00fchren m\u00fcssen und, dass auch alle ihrer Nutzer*innen erfasst werden, wird pauschal in Grundrechte der betroffenen Nutzer*innen eingegriffen. Bei den betroffenen Grundrechten handelt es sich zudem um besonders hochrangige Grundrechte: Meinungs- und Pressefreiheit haben demokratiekonstituierende Bedeutung und der Schutz personenbezogener Daten ist angesichts seines engen Bezugs zum Allgemeinen Pers\u00f6nlichkeitsrecht besonders wichtig.<\/p>\n<p>Insgesamt ist folglich zuzugeben, dass zwar h\u00f6chstrangige Rechtsg\u00fcter durch die Chat-Kontrolle gesch\u00fctzt werden sollen, dies allerdings durch pauschale und tiefgreifende Eingriffe in besonders wichtige Grundrechte. Der mit dem Verordnungsentwurf verfolgte Zweck kann die damit einhergehenden Nachteile also nicht \u00fcberwiegen und einer Abw\u00e4gung nicht standhalten. Der Verordnungsentwurf gen\u00fcgt auch nicht den Anforderungen des EuGH, die dieser an die Vorratsdatenspeicherung stellt. Daher erscheint es sehr fraglich, ob der EuGH die Verordnung in ihrer jetzigen Entwurfsfassung f\u00fcr grundrechtskonform erachten w\u00fcrde, schlie\u00dflich werden durch die Chat-Kontrolle gerade Kommunikationsinhalte erfasst, die von der Vorratsdatenspeicherung bekannterma\u00dfen nicht erfasst werden.<\/p>\n<p><strong>5. Notwendige Betonung des Regel-\/Ausnahmeverh\u00e4ltnis <\/strong><\/p>\n<p>Kernfrage bleibt, inwieweit der Staat berechtigt sein soll, private Verschl\u00fcsselungsma\u00dfnahmen zu umgehen oder aufzuheben, um Straftaten im Internet aufzudecken. Eine L\u00f6sung muss sich zuv\u00f6rderst am Ma\u00dfstab des Schutzes der in der Grundrechtecharta verb\u00fcrgten Garantien und nicht an der Effektivit\u00e4t der Ma\u00dfnahme oder auch nur am blo\u00dfen Aktionismus angesichts vermuteter hoher Dunkelziffern orientieren. Dabei muss das Regel- \/Ausnahmeverh\u00e4ltnis aufrechterhalten bleiben: Grunds\u00e4tzlich ist die private Kommunikation zu sch\u00fctzen und nur in begr\u00fcndeten und einzelnen Ausnahmef\u00e4llen darf diese \u00fcberwacht und kontrolliert werden. Die <strong>Umkehrung dieses Regel-\/Ausnahmeverh\u00e4ltnisses<\/strong> verst\u00f6\u00dft au\u00dferdem, wie <a href=\"https:\/\/verfassungsblog.de\/vielen-dank-ihre-post-ist-unbedenklich\/\">hier<\/a> ebenfalls beschrieben wurde, gegen die Wesensgehaltsgarantie des <a href=\"https:\/\/online.otto-schmidt.de\/db\/dokument?id=ges_grch_52\" target=\"_blank\" rel=\"noopener\">Art. 52 Abs. 1 S.1 GrCh<\/a>: Zwar ist die genaue Bestimmung des \u201eWesensgehalts\u201c eines Grundrechts im Einzelnen schwer zu bestimmen; klar d\u00fcrfte jedoch sein, dass es jedenfalls Wesensgehalt sein muss, das jeweilige Grundrecht in aller Regel zu sch\u00fctzen, w\u00e4hrend Eingriffe nur im begr\u00fcndeten Einzelfall m\u00f6glich sind. Es bleibt daher zu hoffen, dass das <a href=\"https:\/\/twitter.com\/MarcoBuschmann\/status\/1527631384830943234\">Bundesministerium f\u00fcr Justiz <\/a>seine ablehnende Haltung gegen\u00fcber der Chat-Kontrolle nicht aufgibt.<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Julia Fluhr; Robert Pretschner Die Europ\u00e4ische Kommission hat am 11.5.2022 den Verordnungsentwurf zur Pr\u00e4vention und Bek\u00e4mpfung des sexuellen Missbrauchs von Kindern ver\u00f6ffentlicht. Zweifellos steht angesichts von weltweit 85 Millionen Bildern und Videos mit Darstellungen von sexuellem Kindesmissbrauch allein im Jahr 2021 au\u00dfer Frage, dass es zur Bek\u00e4mpfung sexuellen Missbrauchs von Kindern effektiver Ma\u00dfnahmen und der [&hellip;]<\/p>\n","protected":false},"author":5262,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":[],"categories":[1],"tags":[],"_links":{"self":[{"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/posts\/6615"}],"collection":[{"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/users\/5262"}],"replies":[{"embeddable":true,"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/comments?post=6615"}],"version-history":[{"count":23,"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/posts\/6615\/revisions"}],"predecessor-version":[{"id":6650,"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/posts\/6615\/revisions\/6650"}],"wp:attachment":[{"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/media?parent=6615"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/categories?post=6615"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/tags?post=6615"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}