- Die Meldestellen des Staates laufen ins Leere
Mit der Einführung der „Trusted Flaggers“ sollen staatlich ausgewählte Stellen dabei helfen, Inhalte auf Online-Plattformen zu melden. Es stellt sich die Frage, ob die staatlichen Meldestellen wirklich notwendig sind – oder ob sie zu einer Einschränkung der Meinungsfreiheit führen.
Autoreninfo
Vladimir Blumin-Sint ist Diplomjurist und studierte an der Humboldt-Universität zu Berlin. Ehrenamtlich engagiert er sich beim Juristischen Beirat der Jüdischen Studierendenunion Deutschland.
So erreichen Sie Vladimir Blumin-Sint:
Mit dem Artikel 22 des europarechtlichen Digital Service Act (DSA) werden sogenannte „Trusted Flaggers“, zu Deutsch: „vertrauenswürdige Meldestellen“, eingeführt. Rund sieben Monate nach Inkrafttreten der Plattformregeln des DSA am 17. Februar 2024 wurde nun die erste Meldestelle am 1. Oktober in Deutschland zugelassen: Die Organisation „Respect!“, eine staatlich finanzierte, jedoch in privatrechtlicher Form organisierte Stiftung, wird in Zukunft Inhalte auf den Online-Plattformen melden können. Aus Juristenkreisen sowie Menschenrechtsorganisationen wird jedoch Kritik an den Maßnahmen laut.
Um die Entstehung und Tragweite dieser rechtlichen Neuheit zu verstehen, bedarf es eines Überblicks. Zunächst: Das Konzept der „Trusted Flaggers“ ist die Kulmination eines 20-jährigen rechtlichen Prozesses. Schon seit den frühen 2000er Jahren existiert das grundlegende rechtliche Rahmenwerk für Onlinedienste in der EU, welches die Betreiber solcher Plattformen dazu ermutigte, interne Meldestellen einzurichten, um einer Haftung für Nutzerinhalte zu entgehen. Diese Meldestellen werden nun durch den DSA institutionalisiert. Dessen seit Februar geltenden Regeln zufolge ist jedes EU-Mitgliedsland dazu verpflichtet, einen „Digital Service Coordinator“ einzurichten, der dafür zuständig ist, einer Institution den Status eines „Trusted Flaggers“ zu erteilen. In Deutschland ist dies die Bundesnetzagentur.
Um als „Trusted Flaggers“ zugelassen zu werden, müssen Institutionen drei wesentliche Kriterien erfüllen. Zum einen müssen sie „besonderes Fachwissen“ im Erkennen von illegalen Inhalten nachweisen. Zum anderen müssen sie „sorgfältig, genau und objektiv“ arbeiten. Das dritte Kriterium ist, dass sie von den Betreibern der Online-Plattformen unabhängig sein müssen. Keine Voraussetzung ist hingegen eine Unabhängigkeit von staatlichen Institutionen, im Gegenteil: Neben Nichtregierungsorganisationen (NGOs), die oft staatlich finanziert sind, können auch staatliche Institutionen als Meldestellen zugelassen werden.
Praktische Relevanz erübrigt sich
Was ist der Handlungsspielraum einer Meldestelle? Zunächst ist die Unterscheidung zwischen rechtswidrigen und nicht-rechtswidrigen Inhalten wichtig, denn zur Löschung der ersteren sind die Betreiber der Plattformen schon wegen des deutschen Strafgesetzbuches und des in 2018 in Kraft getretenen Netzwerkdurchsetzungsgesetzes (NetzDG) verpflichtet. Der Einsatz von „Trusted Flaggers“ zur Meldung solcher Inhalte ist vor diesem Hintergrund fragwürdig; es wird im dringenden Interesse der Betreiber liegen, illegale Inhalte schon selbst zu erkennen und zu löschen, damit sie sich nicht nach deutschem Recht mit Millionensummen haftbar machen. Schon wegen eines illegalen Inhalts, der vom Betreiber auf seiner Plattform länger als sieben Tage geduldet wird, droht das NetzDG mit einem Maximalbußgeld von 50 Millionen Euro.
Allenfalls könnte argumentiert werden, dass die internen Algorithmen dem Aufspüren strafbarer Inhalte nicht nachkämen und die menschliche Hilfe der „Trusted Flaggers“ zur Rechtsdurchsetzung mithin notwendig sei. Dieses Argument kann jedoch vollständig verworfen werden: Die schon über die Anwendungspraxis des NetzDG erhobenen Daten ergeben, dass nur ein minimaler Anteil der illegalen Inhalte, die auf Plattformen wie Facebook hochgeladen wurden, wegen eines Verstoßes gegen eine im NetzDG aufgeführten Bestimmung entfernt wurde.
Ein Beispiel zeigt die praktische Wirkungslosigkeit des NetzDG sowie prognostizierbar des deckungsgleichen „Trusted Flaggers“-Mechanismus des Digital Service Act: Facebook gab in einem Bericht für das 2. Halbjahr 2021 an, dass insgesamt 17.730 Inhalte entfernt wurden, die nach dem NetzDG gemeldet wurden. Allerdings sind hiervon 16.648 Fälle erfasst, die gleichwohl gegen die vorrangig geprüften Gemeinschaftsstandards von Facebook verstießen und aus diesem Grunde entfernt wurden. Es verbleiben mithin lediglich 1082 Inhalte für diesen Zeitraum, die ausschließlich aufgrund einer NetzDG-Meldung entfernt wurden.
Zum Vergleich: Im selben Zeitraum wurden einem Facebook-Bericht zufolge insgesamt 39,7 Millionen Inhalte wegen des AGB-Verstoßes aufgrund von „Hassrede“ entfernt. Insgesamt ergibt sich: Der Anteil der Entfernungen nach dem NetzDG gegenüber denen wegen eines „Hassrede“-AGB-Verstoßes betrug für den Zeitraum mithin 0,009 Prozent.
Die Diskrepanz ist einfach zu erklären; NetzDG-Meldungen, wie auch zukünftig die Meldungen der „vertrauenswürdigen Meldestellen“, werden durch menschliche Hand getätigt, während die Betreiber der Plattformen aufwendige und effiziente Algorithmen benutzen, die AGB-Verstöße automatisch erkennen sollen und löschen können. Vor diesem Hintergrund erübrigt sich die praktische Relevanz der „Trusted Flaggers“ im Rahmen der Meldung illegaler Inhalte nahezu vollkommen.
Möglicher „Chilling Effect“
Die Bewertung der „Trusted Flaggers“ ist dann schwieriger, wenn es sich hingegen um nicht-rechtswidrige und mithin legale Inhalte handelt. Es sollen solche (legalen) Inhalte gemeldet werden können, die entsprechend der Gemeinschaftsstandards der Plattformen selbst ebenfalls unzulässig wären. An dieser Stelle lässt sich jedoch erst recht die obige Frage nach der praktischen Bedeutung stellen, denn auch hier ist die algorithmische Erkennung von Inhalten, die gegen die eigene AGB verstoßen, weitaus effizienter als die langwierige Meldung einzelner Inhalte durch einen „Trusted Flagger“.
Auch bleibt im Grunde unbeantwortet, weshalb es überhaupt einer staatlich sanktionierten Stelle bedarf, um über die Rechtstreue der Betreiber gegenüber ihren eigenen Gemeinschaftsstandards oberhalb der Legalitätsschwelle zu wachen. Die Festlegung dieser Gemeinschaftsstandards obliegt den Betreibern selbst, die (mit Einschränkung der Klauselverbote der § 308 f. BGB) über den Inhalt ihrer AGB frei entscheiden können; es ist mithin ihr selbstgesetztes Vertragsrecht, über dessen Einhaltung sie selbst zu wachen haben.
Gleichwohl könnte der Digital Service Act in einer Hinsicht sehr wirkungsvoll sein: Dadurch, dass die Nutzer einer Plattform wissen, dass womöglich ein „Trusted Flagger“ ihre Inhalte mitliest, könnten sie von der Teilnahme an einer Diskussion abgeschreckt werden, sodass letztendlich gar keine stattfindet. Vor diesem „Chilling Effect“, einem anerkannten Phänomen aus der Rechtswissenschaft, warnen Juristen stets, wenn Gesetze aufgrund unklarer Bestimmungen das Potenzial haben, Menschen in die Selbstzensur zu treiben. Da dies womöglich der einzig wirkungsvolle Effekt der „Trusted Flaggers“ sein dürfte, könnte ein kritischer Betrachter sogar behaupten, es sei ein intendierter.
„Vertrauenswürdigen Meldestelle“
Die eventuell interessantere Frage liegt jedoch in der außerrechtlichen Genealogie der Idee einer „vertrauenswürdigen Meldestelle“. Welchen Ursprung hat diese Idee, und warum wurde sie gerade jetzt umgesetzt? Eine tiefergehende Begründung und gleichwohl den ideologischen Unterbau dieser Idee hat der Philosoph Yuval Noah Harari kürzlich in seinem Interview mit Sam Harris erläutert. Harari behauptet, dass im Wettkampf der Informationen die Wahrheit stets „zum Boden sinkt“, während Lügen und Falschbehauptungen an die Oberfläche schwimmen.
Die Wahrheit sei ein Produkt langwieriger Arbeit und mithin teuer, während die Lüge schnell behauptet und mithin billig zu produzieren sei. Harari nennt das Beispiel eines Historikers, der, ehe er ernsthafte Forschung betreibt, jahrelang ausgebildet werden muss. Aufgrund dieser Diskrepanz, so Harari, brauche die Wahrheit Schutzmechanismen, die sie gegenüber Falschinformationen stärken. Eine wesentliche Rolle sieht er hierbei bei den etablierten Institutionen wie den Universitäten und den Gerichten.
In der Kommunikation der europäischen Kommission zu den „Trusted Flaggers“ lässt sich die Argumentation Hararis wiedererkennen. Schon der Name der „vertrauenswürdigen Meldestelle“ deutet auf ein Vertrauensverhältnis hin, an dessen anderem Ende staatliche Institutionen stehen. Die Auswahl der Meldestellen erfordert den rechtlich festgelegten Kriterien nach die Unabhängigkeit von den Online-Plattformen selbst, jedoch keine Staatsferne. Auch das Erfordernis der „Objektivität“ der Meldestellen lässt die Frage offen, wer diese zu bestimmen hat.
Schlussendlich bietet Harari, und damit auch das Konzept der „Trusted Flaggers“, keine überzeugende Lösung, wie damit umzugehen ist, wenn die staatlichen Institutionen selbst einer Ideologisierung unterworfen sind. Wie schon am Beispiel des Genderns offenkundig wird, benutzt der Staat auf sämtlichen Ebenen eine „geschlechtergerechte Sprache“, obwohl diese keinen nennenswerten Zuspruch in der Bevölkerung genießt. Wenn schon bei der Sprache die demokratische Legitimationskette derart durchbrochen wird, warum sollte sie unbedingt bei staatlich sanktionierten Meldestellen hinsichtlich legaler Inhalte bestehen bleiben?
Die Wahrheit braucht Freiraum
Zuletzt ist zu nennen, dass es zur Bekämpfung von Falschinformationen auch besserer Wege gibt. Einen solchen besseren Weg zeigt die Funktion der „Community Notes“ auf X (vormals Twitter). Diese ermöglicht es Nutzern, sogenannte „Notizen“ zu Posts hinzuzufügen, die ihrer Meinung nach irreführend oder unvollständig sind. Ziel dieser Funktion ist es, faktisch korrekte Informationen bereitzustellen, ohne dass die Plattform selbst als Schiedsrichter auftritt oder der in Frage stehende Post gelöscht werden muss.
Dabei verfügt die Funktion über einen intelligenten Mechanismus: Eine Notiz wird erst dann für alle Nutzer sichtbar, wenn genügend Nutzer, die bei vergangenen Notizen unterschiedlicher Meinung waren, diese als „richtig“ bewertet haben. Durch dieses Erfordernis steigt die Wahrscheinlichkeit der Richtigkeit der Notiz enorm, es schützt sie nämlich vor der einseitigen Einflussnahme einer Partei. Auch hier ist erkennbar, dass die plattforminterne Lösung einen Vorzug erhält; Harari und die „Trusted Flaggers“ behalten mithin unrecht: Die Wahrheit tritt schon zutage, es muss nur der entsprechende Freiraum zu ihrer vollen Entfaltung ermöglicht werden.
