CR-online.de Blog

DSA im Fokus – Diskussion zu neuen Nutzerrechten gegen Moderationsentscheidungen beginnt

avatar  Dr. Daniel Holznagel
RiAG, z.Zt. KG

Seit Anfang September ist der Digital Services Act (DSA) final. (Hier auf Deutsch: Gesetz über digitale Dienste). Zur finalen Um-Nummerierung, Behördenzuständigkeiten in Deutschland und vielem mehr inklusive Übersicht aller bisherigen CR-Aufsätze zum DSA, siehe:

Holznagel, „Der DSA ist fertig – Neunummerierung, Inkrafttreten, Behördenzuständigkeit und Zukunft des NetzDG & Co.“, CRonline Blog v. 4.11.2022

Ein wichtiger Baustein des DSA ist der dortige (umfangreiche) Rechtsrahmen für Content-Moderationen durch Online-Plattformen. Die Regelungen des DSA in diesem Bereich sind überwiegend gelungen, z.T. drohen aber auch bedenkliche Überraschungen:

Neuer Rechtsrahmen für Content-Moderation

Die Vorgaben zur Content-Moderation in den Art. 16 ff. werden z.T. für alle, insgesamt aber für alle größeren Online-Plattformen gelten und ab dem 17. Februar 2024 umzusetzen sein.

Dabei kommt auf die Online-Plattformen einiges zu: Nach Art. 16 DSA müssen die Plattformen nutzerfreundliche Meldewege bereithalten, damit ihnen Hinweise auf illegale Inhalte übermittelt werden können. Art. 17 DSA schreibt vor, dass und wie Plattformen verschiedenste Moderationsentscheidungen begründen müssen (u.a. muss über Beschränkungen der Sichtbarkeit von Informationen informiert werden, so dass schon spekuliert wird, ob sog. Shadow-Bans nunmehr der Vergangenheit angehören).

Vorgerichtliche Eskalation

Art. 20 und 21 DSA begründen außergerichtliche Eskalationsstufen für den Fall, dass der von einer Content-Moderation Betroffene (z.B. ein de-monetarisierter Nutzer), aber auch meldende Personen (z.B. ein notice-Sender, welcher nicht hinnehmen möchte, dass die Plattform einen gemeldeten Inhalt nicht sperrt) gegen getroffene oder unterlassene Moderationsentscheidungen protestieren wollen. Jeweils geht es um vorgerichtliche Mechanismen.

Ziel der Art. 20 f. DSA ist es, den Rechtsschutz zu vereinfachen und Konflikte über Moderationsentscheidungen möglichst schnell und (für den Nutzer) kostengünstig zu lösen.

Internes System zum Management von Beschwerden, Art. 20 DSA

Art. 20 DSA ist relativ unauffällig: Die Plattformen müssen ein internes Beschwerdemanagementsystem (in-house appeals) vorhalten. Dies muss es ermöglichen, dass Beschwerden gegen Moderationsentscheidungen einfach eingelegt werden können. Sodann folgt eine Pflicht, erneut über den Sachverhalt zu entscheiden. Art. 20 DSA ähnelt dem – weitgehend positiv aufgenommenen – Gegendarstellungsverfahren in § 3b NetzDG. Auch der BGH hat inzwischen ähnliche Anforderungen auf AGB-rechtlicher Grundlage entwickelt (zuletzt BGH, Urt. v. 27. Januar 2022 – III ZR 12/21). Alles in allem dürfte Art. 20 DSA für die Plattformen machbar sein und für die Nutzer:innen einen echten Mehrwert bringen.

Zwingende außergerichtliche Streitbeilegung auf Kosten der Plattformen,
Art. 21 DSA

Schwierig, und im Gesetzgebungsverfahren zu unbeachtet, scheint mir hingegen die Regelung des Art. 21 DSA. Danach können die nationalen Behörden künftig außergerichtliche Streitbeilegungsstellen zertifizieren.

Wenn ein Nutzer mit einer Moderationsentscheidung unzufrieden ist, kann er die Online-Plattform grundsätzlich zwingen (!) dort an einer Streitbeilegung teilzunehmen. Nach Art. 21(2) UAbs. 3 DSA darf die Streitbeilegungsstelle zwar keine verbindlichen Ergebnisse auferlegen (der Kommissionsentwurf hatte ursprünglich verbindliche Ergebnisse vorgeschlagen und war dafür z.T. scharf kritisiert worden).

Allerdings droht die resultierende „forced arbitration” allein wegen der eigenartig-einseitigen Kostenregelung zu einer großen Belastung für die Plattformen zu werden: Art. 21 DSA hält fest, dass die (antragstellenden) Nutzer:innen nur eine geringe Schutzgebühr (oder gar nichts) zahlen müssen. Darüber hinaus werden im Regelfall wohl die Plattformen den Großteil der Gebühren tragen müssen, und zwar unabhängig vom Obsiegen/Unterliegen. Im Obsiegensfall des Nutzers müssen die Plattformen zudem dessen “angemessenen Kosten” tragen (Anwaltskosten?).

“Settlement-Euphoria” des EU-Gesetzgeber & die Idee von “sub-courts”

Dem EU-Gesetzgeber wird mitunter eine “settlement-euphoria” zugeschrieben. Hintergrund mag sein, dass sich eine Regelungskompetenz des EU-Gesetzgebers für die mitgliedstaatlichen Gerichtsverfahren nicht begründen lässt, für Alternative-Dispute-Resolution-Verfahren (ADR) hingegen schon. Zudem spürt man in der EU-Rechtspolitik oft eine große Skepsis gegenüber der Leistungsfähigkeit mitgliedstaatlicher Gerichte, was den Blick auf ADR-Lösungen beflügelt.

Jedenfalls ist Art. 21 DSA vor diesem Hintergrund zu sehen. In den Vorarbeiten zum DSA war der Regelungsvorschlag von Teilen des EP sogar unter dem Stichwort “sub-court system” diskutiert worden.

Missbrauchspotential und Fehlanreize

Allerdings dürfte Art. 21 DSA weitaus disruptiver sein als bisherige ADR-Regelungen. Die Regelung in Art. 21 DSA ist potentiell missbrauchsanfällig (Berufskläger). Zudem versieht sie Moderationsentscheidungen – auch zutreffende – generell mit einem (verhältnismäßig hohen) “price-tag” aufgrund der Kostenbelastung der Streitbeilegungsverfahren. Dabei scheint nicht durchdacht, wie enorm skalierbar der Anwendungsbereich ist: Theoretisch könnten jährlich millionenfach Verfahren eingeleitet werden, welche die Plattformen dann bezahlen müssen. Letztlich dürfte die Regelung nicht zu besserer Content-Moderation führen, sondern insoweit sogar Fehlanreize zu weniger Content-Moderation setzen (underblocking, over-put-back), gerade im Bereich kontroverser Moderationsentscheidungen (Hate Speech, Desinformation) wo substantielle Anstrengungen der Plattformen begrüßenswert und ausbaufähig erscheinen (und gegenläufige Entwicklungen – siehe Twitter-Übernahme durch Elon Musk – gerade die Problematik von „zu wenig“ Moderation aufzeigen).

Sichere Gewinner der Neuregelung in Art. 21 DSA sind die künftigen Streitbeilegungsstellen:  V.a. Anwält:innen werden die Zertifizierungsvoraussetzungen wohl oft erfüllen und können sich auf ein potentiell riesiges Geschäftsfeld freuen, bei dem die Kosten letztlich (wohl fast komplett) von den solventen Plattformen zu tragen sind.

Ausblick

Inwieweit es zu den aufgezeigten Entwicklungen kommt, hängt zum Teil von der künftigen Zertifizierungspraxis der nationalen Behörden ab. Zum anderen aber davon, inwiefern die Gerichte die Regelung des Art. 21 DSA, auch wegen grundrechtlicher Bedenken, zugunsten der Plattformen eingrenzen.

Beide Regelungen, Art. 20 DSA (internes Beschwerdemanagementsystem), sowie v.a. Art. 21 DSA (außergerichtliche Streitbeilegung) habe ich in meinem Aufsatz in CR 2022, 594 ausführlich dargestellt und bewertet. Auch wenn man die dortige Kritik nicht teilt: Sicher scheint, dass insbesondere Art. 21 DSA noch viele schwierige Fragen aufwerfen wird. Die juristische Auseinandersetzung dürfte sich jetzt erst entwickeln.

 

Dr. Daniel Holznagel arbeitet z.Zt. als Richter am Landgericht Berlin (v.a. UWG, MarkenR- und KartellR). Er war zuvor 4 Jahre im Bundesministerium der Justiz als Referent für die Entwürfe und anschließende Umsetzung des NetzDG zuständig. Er publiziert regelmäßig zum Recht der Online-Plattformen und unterstützt zivilgesellschaftliche Akteur:innen wie HateAid und Counter Extremism Project bei der Positionierung zu digitalpolitischen Themen. Ab dem Wintersemester 2022/23 unterrichtet er zudem zu Fragen Plattformregulierung an der Freien Universität Berlin.

Schreiben Sie einen Kommentar

Sie müssen sich einloggen um einen Kommentar schreiben zu können.