{"id":6896,"date":"2022-12-12T13:33:12","date_gmt":"2022-12-12T12:33:12","guid":{"rendered":"https:\/\/www.cr-online.de\/blog\/?p=6896"},"modified":"2023-06-06T11:00:56","modified_gmt":"2023-06-06T10:00:56","slug":"dsa-im-fokus-diskussion-zu-neuen-nutzerrechten-gegen-moderationsentscheidungen-beginnt","status":"publish","type":"post","link":"https:\/\/www.cr-online.de\/blog\/2022\/12\/12\/dsa-im-fokus-diskussion-zu-neuen-nutzerrechten-gegen-moderationsentscheidungen-beginnt\/","title":{"rendered":"DSA im Fokus &#8211; Diskussion zu neuen Nutzerrechten gegen Moderationsentscheidungen beginnt"},"content":{"rendered":"<p>Seit Anfang September ist der <strong>Digital Services Act<\/strong> (<strong>DSA<\/strong>) final. (Hier auf Deutsch: <a href=\"https:\/\/data.consilium.europa.eu\/doc\/document\/PE-30-2022-INIT\/de\/pdf\" target=\"_blank\" rel=\"noopener\"><strong>Gesetz \u00fcber digitale Dienste<\/strong><\/a>). Zur finalen Um-Nummerierung, Beh\u00f6rdenzust\u00e4ndigkeiten in Deutschland und vielem mehr inklusive \u00dcbersicht aller bisherigen CR-Aufs\u00e4tze zum DSA, siehe:<\/p>\n<p style=\"padding-left: 30px;\"><a href=\"https:\/\/www.cr-online.de\/blog\/2022\/11\/04\/der-dsa-ist-fertig-neunummerierung-inkrafttreten-behoerdenzustaendigkeit-und-zukunft-des-netzdg-co\/\" target=\"_blank\" rel=\"noopener\"><em>Holznagel<\/em>, &#8222;Der DSA ist fertig \u2013 Neunummerierung, Inkrafttreten, Beh\u00f6rdenzust\u00e4ndigkeit und Zukunft des NetzDG &amp; Co.&#8220;, CRonline Blog v. 4.11.2022<\/a><\/p>\n<p>Ein wichtiger Baustein des DSA ist der dortige (umfangreiche) <strong>Rechtsrahmen f\u00fcr Content-Moderationen durch Online-Plattformen<\/strong>. Die Regelungen des DSA in diesem Bereich sind \u00fcberwiegend gelungen, z.T. drohen aber auch bedenkliche \u00dcberraschungen:<\/p>\n<h1><strong>Neuer Rechtsrahmen f\u00fcr Content-Moderation<\/strong><\/h1>\n<p>Die Vorgaben zur Content-Moderation in den Art. 16 ff. werden z.T. f\u00fcr alle, insgesamt aber f\u00fcr alle gr\u00f6\u00dferen Online-Plattformen gelten und ab dem 17. Februar 2024 umzusetzen sein.<\/p>\n<p><strong>Dabei kommt auf die Online-Plattformen einiges zu:<\/strong> Nach Art. 16 DSA m\u00fcssen die Plattformen nutzerfreundliche Meldewege bereithalten, damit ihnen Hinweise auf illegale Inhalte \u00fcbermittelt werden k\u00f6nnen. Art. 17 DSA schreibt vor, dass und wie Plattformen verschiedenste Moderationsentscheidungen begr\u00fcnden m\u00fcssen (u.a. muss \u00fcber Beschr\u00e4nkungen der Sichtbarkeit von Informationen informiert werden, so dass schon <a href=\"https:\/\/osf.io\/7jg45\/\" target=\"_blank\" rel=\"noopener\">spekuliert wird<\/a>, ob sog. <em>Shadow-Bans<\/em> nunmehr der Vergangenheit angeh\u00f6ren).<\/p>\n<h1><strong>Vorgerichtliche Eskalation<\/strong><\/h1>\n<p>Art. 20 und 21 DSA begr\u00fcnden au\u00dfergerichtliche Eskalationsstufen f\u00fcr den Fall, dass der von einer Content-Moderation Betroffene (z.B. ein de-monetarisierter Nutzer), aber auch meldende Personen (z.B. ein notice-Sender, welcher nicht hinnehmen m\u00f6chte, dass die Plattform einen gemeldeten Inhalt <em>nicht<\/em> sperrt) gegen getroffene oder unterlassene Moderationsentscheidungen protestieren wollen. Jeweils geht es um vorgerichtliche Mechanismen.<\/p>\n<p><span style=\"text-decoration: underline;\">Ziel<\/span> der Art. 20 f. DSA ist es, den Rechtsschutz zu vereinfachen und Konflikte \u00fcber Moderationsentscheidungen m\u00f6glichst schnell und (f\u00fcr den Nutzer) kosteng\u00fcnstig zu l\u00f6sen.<\/p>\n<h1><strong>Internes System zum Management von Beschwerden, Art. 20 DSA<\/strong><\/h1>\n<p>Art. 20 DSA ist relativ unauff\u00e4llig: Die Plattformen m\u00fcssen ein internes Beschwerdemanagementsystem (<em>in-house appeals<\/em>) vorhalten. Dies muss es erm\u00f6glichen, dass Beschwerden gegen Moderationsentscheidungen einfach eingelegt werden k\u00f6nnen. Sodann folgt eine Pflicht, erneut \u00fcber den Sachverhalt zu entscheiden. Art. 20 DSA \u00e4hnelt dem &#8211; weitgehend positiv aufgenommenen &#8211; <em>Gegendarstellungsverfahren<\/em> in <a href=\"https:\/\/online.otto-schmidt.de\/db\/dokument?id=ges_netzdg_3b\" target=\"_blank\" rel=\"noopener\">\u00a7 3b NetzDG<\/a>. Auch der BGH hat inzwischen \u00e4hnliche Anforderungen auf AGB-rechtlicher Grundlage entwickelt (zuletzt <a href=\"https:\/\/www.juris.de\/perma?d=KORE600202022\" target=\"_blank\" rel=\"noopener\">BGH, Urt. v. 27. Januar 2022 \u2013 III ZR 12\/21<\/a>). Alles in allem d\u00fcrfte Art. 20 DSA f\u00fcr die Plattformen machbar sein und f\u00fcr die Nutzer:innen einen echten Mehrwert bringen.<\/p>\n<h1><strong>Zwingende au\u00dfergerichtliche Streitbeilegung auf Kosten der Plattformen,<br \/>\nArt. 21 DSA<\/strong><\/h1>\n<p>Schwierig, und im Gesetzgebungsverfahren zu unbeachtet, scheint mir hingegen die Regelung des Art. 21 DSA. Danach k\u00f6nnen die nationalen Beh\u00f6rden k\u00fcnftig au\u00dfergerichtliche Streitbeilegungsstellen zertifizieren.<\/p>\n<p>Wenn ein Nutzer mit einer Moderationsentscheidung unzufrieden ist, kann er die Online-Plattform grunds\u00e4tzlich <strong>zwingen<\/strong> (!) dort an einer Streitbeilegung teilzunehmen. Nach Art. 21(2) UAbs. 3 DSA darf die Streitbeilegungsstelle zwar keine verbindlichen Ergebnisse auferlegen (der Kommissionsentwurf hatte urspr\u00fcnglich verbindliche Ergebnisse vorgeschlagen und war daf\u00fcr z.T. <a href=\"https:\/\/verfassungsblog.de\/dsa-art-18\/\"><u>scharf kritisiert worden<\/u><\/a>).<\/p>\n<p>Allerdings droht die resultierende &#8222;forced arbitration\u201d allein wegen der eigenartig-einseitigen Kostenregelung zu einer gro\u00dfen Belastung f\u00fcr die Plattformen zu werden: Art. 21 DSA h\u00e4lt fest, dass die (antragstellenden) Nutzer:innen nur eine geringe Schutzgeb\u00fchr (oder gar nichts) zahlen m\u00fcssen. Dar\u00fcber hinaus werden im Regelfall wohl die Plattformen den Gro\u00dfteil der Geb\u00fchren tragen m\u00fcssen, und zwar unabh\u00e4ngig vom Obsiegen\/Unterliegen. Im Obsiegensfall des Nutzers m\u00fcssen die Plattformen zudem dessen \u201cangemessenen Kosten\u201d tragen (Anwaltskosten?).<\/p>\n<h1><strong>\u201cSettlement-Euphoria\u201d des EU-Gesetzgeber &amp; die Idee von \u201csub-courts\u201d<\/strong><\/h1>\n<p>Dem EU-Gesetzgeber wird mitunter eine <a href=\"https:\/\/papers.ssrn.com\/sol3\/papers.cfm?abstract_id=2290654\" target=\"_blank\" rel=\"noopener\">\u201csettlement-euphoria\u201d<\/a> zugeschrieben. Hintergrund mag sein, dass sich eine Regelungskompetenz des EU-Gesetzgebers f\u00fcr die mitgliedstaatlichen Gerichtsverfahren nicht begr\u00fcnden l\u00e4sst, f\u00fcr Alternative-Dispute-Resolution-Verfahren (ADR) hingegen schon. Zudem sp\u00fcrt man in der EU-Rechtspolitik oft eine gro\u00dfe Skepsis gegen\u00fcber der Leistungsf\u00e4higkeit mitgliedstaatlicher Gerichte, was den Blick auf ADR-L\u00f6sungen befl\u00fcgelt.<\/p>\n<p>Jedenfalls ist Art. 21 DSA vor diesem Hintergrund zu sehen. In den Vorarbeiten zum DSA war der Regelungsvorschlag von Teilen des EP sogar unter dem Stichwort \u201c<a href=\"https:\/\/www.europarl.europa.eu\/doceo\/document\/A-9-2020-0177_EN.html\" target=\"_blank\" rel=\"noopener\"><em>sub-court system<\/em><\/a>\u201d diskutiert worden.<\/p>\n<h1><strong>Missbrauchspotential und Fehlanreize<\/strong><\/h1>\n<p>Allerdings d\u00fcrfte Art. 21 DSA weitaus disruptiver sein als bisherige ADR-Regelungen. Die Regelung in Art. 21 DSA ist potentiell missbrauchsanf\u00e4llig (Berufskl\u00e4ger). Zudem versieht sie Moderationsentscheidungen \u2013 auch zutreffende \u2013 generell mit einem (verh\u00e4ltnism\u00e4\u00dfig hohen) \u201cprice-tag\u201d aufgrund der Kostenbelastung der Streitbeilegungsverfahren. Dabei scheint <strong>nicht durchdacht<\/strong>, wie enorm skalierbar der Anwendungsbereich ist: Theoretisch k\u00f6nnten j\u00e4hrlich millionenfach Verfahren eingeleitet werden, welche die Plattformen dann bezahlen m\u00fcssen. Letztlich d\u00fcrfte die Regelung nicht zu <em>besserer<\/em> Content-Moderation f\u00fchren, sondern insoweit sogar <strong>Fehlanreize<\/strong> zu <em>weniger<\/em> Content-Moderation setzen (<em>underblocking<\/em>, <em>over-put-back<\/em>), gerade im Bereich kontroverser Moderationsentscheidungen (Hate Speech, Desinformation) wo substantielle Anstrengungen der Plattformen begr\u00fc\u00dfenswert und ausbauf\u00e4hig erscheinen (und gegenl\u00e4ufige Entwicklungen &#8211; siehe Twitter-\u00dcbernahme durch Elon Musk &#8211; gerade die Problematik von &#8222;zu wenig&#8220; Moderation aufzeigen).<\/p>\n<p><strong><span style=\"text-decoration: underline;\">Sichere Gewinner<\/span> der Neuregelung in Art. 21 DSA sind die k\u00fcnftigen Streitbeilegungsstellen:\u00a0<\/strong> V.a. Anw\u00e4lt:innen werden die Zertifizierungsvoraussetzungen wohl oft erf\u00fcllen und k\u00f6nnen sich auf ein potentiell riesiges Gesch\u00e4ftsfeld freuen, bei dem die Kosten letztlich (wohl fast komplett) von den solventen Plattformen zu tragen sind.<\/p>\n<h1><strong>Ausblick<\/strong><\/h1>\n<p>Inwieweit es zu den aufgezeigten Entwicklungen kommt, h\u00e4ngt zum Teil von der k\u00fcnftigen <strong>Zertifizierungspraxis der nationalen Beh\u00f6rden<\/strong> ab. Zum anderen aber davon, inwiefern die Gerichte die Regelung des Art. 21 DSA, auch wegen grundrechtlicher Bedenken, zugunsten der Plattformen eingrenzen.<\/p>\n<p>Beide Regelungen, Art. 20 DSA (<em>internes Beschwerdemanagementsystem<\/em>), sowie v.a. Art. 21 DSA (<em>au\u00dfergerichtliche Streitbeilegung<\/em>) habe ich in meinem Aufsatz in <a href=\"https:\/\/www.juris.de\/r3\/document\/SBLU001316322\/format\/xsl\/part\/S?oi=Bsf3AC9Wea&amp;sourceP=%7B%22source%22%3A%22Link%22%7D\"><a href=\"https:\/\/online.otto-schmidt.de\/db\/suche?q=%5B%7B%22txt%22:%22pubyear:2022%22%7D,%7B%22txt%22:%22source_page:594%22%7D,%7B%22txt%22:%22all_source_2:cr%22%7D%20%5D\" target=\"_blank\" rel=\"nofollow\">CR 2022, 594<\/a><\/a> ausf\u00fchrlich dargestellt und bewertet. Auch wenn man die dortige Kritik nicht teilt: Sicher scheint, dass insbesondere Art. 21 DSA noch viele schwierige Fragen aufwerfen wird. Die juristische Auseinandersetzung d\u00fcrfte sich jetzt erst entwickeln.<\/p>\n<p>&nbsp;<\/p>\n","protected":false},"excerpt":{"rendered":"<p>Seit Anfang September ist der Digital Services Act (DSA) final. (Hier auf Deutsch: Gesetz \u00fcber digitale Dienste). Zur finalen Um-Nummerierung, Beh\u00f6rdenzust\u00e4ndigkeiten in Deutschland und vielem mehr inklusive \u00dcbersicht aller bisherigen CR-Aufs\u00e4tze zum DSA, siehe: Holznagel, &#8222;Der DSA ist fertig \u2013 Neunummerierung, Inkrafttreten, Beh\u00f6rdenzust\u00e4ndigkeit und Zukunft des NetzDG &amp; Co.&#8220;, CRonline Blog v. 4.11.2022 Ein wichtiger [&hellip;]<\/p>\n","protected":false},"author":5267,"featured_media":0,"comment_status":"open","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":[],"categories":[1,51,10,29,50,53],"tags":[992,937,1004,182,476],"_links":{"self":[{"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/posts\/6896"}],"collection":[{"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/users\/5267"}],"replies":[{"embeddable":true,"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/comments?post=6896"}],"version-history":[{"count":23,"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/posts\/6896\/revisions"}],"predecessor-version":[{"id":7171,"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/posts\/6896\/revisions\/7171"}],"wp:attachment":[{"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/media?parent=6896"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/categories?post=6896"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/www.cr-online.de\/blog\/wp-json\/wp\/v2\/tags?post=6896"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}