Aktuell in der CR

Zu starke Nutzerrechte in Art. 17 und 18 DSA (Holznagel, CR 2022, 594)

Die Frage der Nutzerrechte auf Online-Plattformen, d.h. mit welchen Mitteln sich z.B. Facebook-Nutzer gegen ungerechtfertigte Moderationsentscheidungen wehren können, hat in den vergangenen Jahren außergewöhnlich an Bedeutung gewonnen. Einen vorläufigen Abschluss dieser Entwicklung stellen die Art. 17 und 18 Digital Services Act (DSA) dar. Diese neuen Vorgaben zwingen Online-Plattformen sanktionsbewehrt und behördlich überwacht zum Vorhalten eines internen Beschwerdemanagementsystems (Art. 17 DSA) sowie – auf Antrag des Nutzers – zur Teilnahme an einer außergerichtlichen Streitbeilegung (Art. 18 DSA). Die Regelungen werden überwiegend begrüßt, meist basierend auf der eher intuitiven Annahme, dass eine Stärkung der Nutzerrechte per se etwas „Gutes“ sei (kleine Nutzer gegen übermächtige Plattformen). Tatsächlich ist Art. 17 DSA weitestgehend gelungen. Art. 18 DSA hingegen ist ein legislativer Irrweg: Nutzer:innen können die Online-Plattformen quasi risikolos und dazu auf deren Kosten in eine relativ teure Streitbeilegung zwingen. Diese erhebliche Belastung der Plattformen, die zudem zu Fehlanreizen bei der Content-Moderation führt, lässt sich nach hier vertretener Auffassung nicht rechtfertigen. 

Der Beitrag skizziert den historischen Hintergrund (I.) und stellt die Regelungsmechanismen sowie vor allem Anwendungsprobleme dar (II. bis IV.), die sich schon jetzt abzeichnen. Die Kritik an Art. 18 DSA wird gesondert begründet (V.). Es folgt eine rechtspolitische Einordnung (VI.). Die Darstellung erfolgt am derzeit verfügbaren – vom Europäischen Parlament am 5.7.2022 angenommenen – Regelungstext, der noch redaktionellen Bearbeitungen unterliegen kann; insbesondere könnte es wohl zu einer Neunummerierung der Artikel und Absätze kommen.

INHALTSVERZEICHNIS:

I. Hintergrund und Gesetzgebungsverfahren

1. Ab Ende der 2010er Jahre: Klagewelle

2. Vorschnelle Politische Agenda

3. Gesetzliche Vorbilder

4. Gesetzgebungsverfahren zum DSA

II. Anwendungsbereich, Abgrenzung und erwartbare Empirik

1. Erfasste Plattformen

2. Antragsberechtigte

3. Angreifbare Moderationsentscheidungen

4. Abgrenzung zu anderen Streitbeilegungsmechanismen

5. Erwartbare Empirik

III. Internes Beschwerdemanagementsystems (Art. 17 DSA)

1. Nutzerfreundlicher Zugang

2. Zeitnahe und diskriminierungsfreie Entscheidung

3. Keine Anhörungspflicht

4. Human-in-the-Loop

5. Überprüfungsentscheidung

6. Aufsicht und Sanktionen

IV. Außergerichtliche Streitbeilegung (Art. 18 DSA)

1. Zertifizierung von Streitbeilegungsstellen

a) Unabhängigkeit und Unparteilichkeit

b) Sachkenntnis

c) Effiziente und kostengünstige (Online-)Streitbeilegung

d) Verfahrensregeln

2. Mitwirkungspflicht der Plattformen

3. „Lösung“ der Streitbeilegungsstelle

a) „Unverbindlichkeit“

b) Entscheidungsmaßstab und anwendbares Recht

4. Kosten und Kostentragung

a) Gebühren der Streitbeilegungsstelle

b) Aufwendungen der Parteien

c) Vorschusspflicht und Kostentragung

5. Aufsicht und Sanktionen

V. Kritik: Fehlanreize und nicht zu rechtfertigende Belastung der Plattformen

1. Zweck des Art. 18 DSA

2. Fehlentwicklungen

a) Kostenbelastung durch „Zwangsberatung“

b) Verteuerung selbst von berechtigter Moderation

c) Missbrauchspotential durch „Berufskläger“

3. Beschränkte Eignung zur Streitbeilegung im Einzelfall

4. Keine Anreizwirkung zu „besserer“ Moderation („Prize tag“ – Argument überzeugt nicht)

5. Weder Erforderlichkeit, noch Verhältnismäßigkeit

6. Geltungserhaltende Reduktion?

VI. Zusammenfassung und rechtspolitische Bewertung


 


Leseprobe:
 

"I. Hintergrund und Gesetzgebungsverfahren
1

Obgleich es Content-Moderation durch Online-Plattformen schon lange gibt, fand die einhergehende Gefahr des Overblockings in Europa zunächst nur wenig Aufmerksamkeit – in erstaunlichem Gegensatz etwa zu den USA 1 . Entsprechend war auch die Frage nach korrespondierenden Nutzerrechten in Europa lange Zeit (fast) kein Thema.
 

1. Ab Ende der 2010er Jahre: Klagewelle
2

Dies änderte sich erst – aber dann rasant – Ende der 2010er Jahre: Aufgrund vermehrter konflikthafter Moderationsentscheidungen (v.a. im Bereich Hate Speech u.Ä.) 2 ergab sich ein zunehmendes Bedürfnis der betroffenen Nutzer:innen nach (juristischer) Gegenwehr. Eine wichtige Aufgabe kam hierbei den Gerichten zu, die in Deutschland seit 2018 eine wahre Klageflut bewältigen und oft z.B. zur Wiederherstellung von Inhalten oder Accounts verurteilen 3 .

3

2021 hat der BGH wichtige Weichen gestellt 4 : Über eine strenge (grundrechtlich aufgeladene) Anwendung des AGB-Rechts 5 verlangt der BGH, dass die Anbieter schon in ihren AGBs differenzierte Verfahrensrechte ihrer Nutzer ausdrücklich absichern (Anhörung, Recht auf Überprüfungsentscheidung) 6 . Da dies bspw. bei Facebook bisher nicht ausreichend der Fall ist, versagen die Gerichte Facebook seither regelmäßig allein auf die AGB gestützte Moderationsentscheidungen, so dass die Klagen der Nutzer:innen hier (derzeit) oft Erfolg haben 7 .
 

2. Vorschnelle Politische Agenda
4

Zeitgleich – und obgleich sich bereits eine nutzerfreundliche Rechtsprechungslinie andeutete – nahm die Politik das Thema der Nutzerrechte Ende der 2010er Jahre schnell auf. Zwar hatte es schon länger eher wenig beachtete Forderungen nach Ombudsmännern, Cybercourts, „e-Courts“ usw. gegeben. Maßgeblich aber war es auch die Einführung des NetzDG, welches das Thema der Nutzerrechte dann quasi „über Bande“ anschob: Da die (vermeintliche) Overblockinggefahr zentraler Angriffspunkt für die (ursprünglich) erhebliche Kritik 8 an dem Gesetz war, lag die politische Forderung nach einer Stärkung der Nutzerrechte als vermeintlicher Ausgleich nahe, was sich relativ früh auf die Schaffung interner Beschwerdemanagementsysteme, v.a. aber die Schaffung unabhängiger Beschwerde- oder Clearingstellen fokussierte 9 . Auch auf EU-Ebene – wo außergerichtliche Streitbeilegung traditionell einen (zu) guten Stand hat („settlement euphoria 10 ) – wurde diese Forderung früh aufgegriffen 11 .

5

Diese Vorschläge waren meist nur rudimentär begründet. Es wurde nicht hinterfragt, wie sich Clearingstellen von Gerichten unterscheiden sollen. Unberücksichtigt blieb zudem, dass Moderationsentscheidungen wenig „mediationsgeeignet“ sind. Denn im Raum stehen deliktische Verstöße, d.h. es geht weniger um interessengeleitete, sondern normbasierte Entscheidungsfindung. Typischerweise gibt es wenig Verhandlungsmasse 12 und die Beteiligten werden eine aufwendige Streitbeilegung (z.B. über eine hasserfüllte, aber evtl. noch legale Kritik zum Thema Gendern) in ganz unterschiedlicher Weise als zumutbar empfinden 13 .
 

3. Gesetzliche Vorbilder
6

Allerdings wurden schon bald sowohl auf europäischer 14 als auch auf nationaler Ebene 15 (sektorale) Regelungen zu internen Beschwerdeverfahren und außergerichtlicher Streitbeilegung für Online-Dienste eingeführt, wobei diese Regelungen aber – im Vergleich zu den jetzigen Art. 17 f. DSA – mitunter eher rudimentär blieben und es v.a. bei der kritischen externen Streitbeilegung immer nur um freiwillige Teilnahme ging 16 .
 

4. Gesetzgebungsverfahren zum DSA
7

Art. 17 des am 15.12.2020 veröffentlichten Kommissionsvorschlags zum DSA 17 stellte eine relativ unauffällige (horizontal anwendbare und detailtiefere) Fortentwicklung der bisherigen Vorbildregelungen zu internen Beschwerdemanagementsystemen 18 dar.

8

Im Gegensatz hierzu ging allerdings Art. 18 DSA im Kommissions-Entwurf über die bestehenden Vorbilder zur außergerichtlichen Streitbeilegung deutlich hinaus: Die Teilnahme an den Verfahren sollte für die Plattformen nun zwingend und die dort getroffenen Entscheidungen verbindlich sein. Zudem sollten die Plattformen quasi durchweg die Kosten der Streitbeilegung tragen. Dem Vernehmen nach ließ sich die EU-Kommission für diesen Vorschlag u.a. von den spieltheoretischen Experimenten von Fiala/Husovec aus 2018 inspirieren. Danach würde eine verpflichtende Streitbeilegung, bei der die Plattform im Unterliegensfall hohe, die Nutzer:innen im Unterliegensfall niedrige Kosten tragen, einen ökonomischen Anreiz für bessere Moderationsentscheidungen schaffen 19 . Unterstützung für einen Mechanismus wie in Art. 18 DSA des Kommissionsentwurfs war zudem vorab aus dem Europäischen Parlament signalisiert worden 20 .

9

Das Europäische Parlament unterstützte den Kommissionsvorschlag zu Art. 17 f. DSA im Wesentlichen. Die Vorschläge wurden auch in der Wissenschaft und Zivilgesellschaft überwiegend positiv aufgenommen 21 . Maßgeblich kritisiert wurde lediglich, dass im Kommissionsvorschlag nur die Nutzer:innen, nicht aber die Notice-Sender antragsberechtigt waren 22 . Nur vereinzelt wurde der Vorschlag zu Art. 18 DSA in der Rechtswissenschaft vertieft kritisiert 23 .

10

Diese Kritik wurde seitens der Mitgliedstaaten zum Teil aufgenommen: Die Ratsposition forderte – was so auch beschlossen wurde – eine Erweiterung der Antragsberechtigten um Notice-Sender, und dass bei Art. 18 DSA bindende Entscheidungen der Streitbeilegungsstellen ausdrücklich ausgeschlossen sind.
 

II. Anwendungsbereich, Abgrenzung und erwartbare Empirik
11

Die Art. 17 f. DSA bilden ein prominentes Herzstück der Nutzerrechte im DSA 24 , müssen aber …"


Hier direkt weiterlesen im juris PartnerModul IT-Recht
 



Verlag Dr. Otto Schmidt vom 13.09.2022 11:45

zurück zur vorherigen Seite