Am 1. Oktober 2024 verkündete die Bundesnetzagentur, dass erstmals ein sogenannter »Trusted Flagger« gemäß dem Digital Services Act (DSA) zugelassen wurde: »Trusted Flaggers spielen eine zentrale Rolle bei der Umsetzung des Digital Services Act, um illegale Inhalte im Netz wirksam zu bekämpfen. Diese Organisationen verfügen über besondere Expertise und Erfahrung bei der Identifizierung und Meldung rechtswidriger Inhalte. Plattformen sind gesetzlich verpflichtet, Meldungen von Trusted Flaggern prioritär zu behandeln und unverzüglich Maßnahmen wie beispielsweise die Löschung der Inhalte zu ergreifen.« Der deutsche Begriff für »Trusted Flagger« ist »vertrauenswürdiger Hinweisgeber«.
Der Trusted Flagger gemäß dem Digital Services Act
Der Status des »Trusted Flagger« wird in Deutschland auf Antrag durch die Bundesnetzagentur zuerkannt. Dabei muss nach dem Digital Services Act (DSA) der Antragsteller gegenüber der Bundesnetzagentur nachweisen, dass er die folgenden Bedingungen erfüllt:
- besondere Sachkenntnis und Kompetenz in Bezug auf die Erkennung, Feststellung und Meldung rechtswidriger Inhalte;
- Unabhängigkeit von Anbietern von Online-Plattformen (nicht jedoch: Unabhängigkeit von Regierungen);
- Sorgfältige, genaue und objektive Ausübung der Tätigkeit zur Übermittlung von Meldungen.
Der DSA geht davon aus, dass die von »Trusted Flaggern« eingereichten Meldungen mit weniger Aufwand und daher schneller bearbeitet werden können als die von anderen Nutzern eingereichten Meldungen. Ihnen wird also ein höheres Maß an Gewähr der Richtigkeit eingereichter Meldungen im Vergleich zu anderen Hinweisgebern zugeschrieben.
Wer ist der erste Trusted Flagger in Deutschland?
Der erste »Trusted Flagger« in Deutschland ist die Meldestelle REspect! der Stiftung zur Förderung der Jugend in Baden-Württemberg. Die Meldestelle (s. hier zur allgemeinen Problematik von Meldestellen) war gemäß der Bundesnetzagentur die erste Organisation, die einen Zulassungsantrag eingereicht hatte. Gefördert wird die Meldestelle REspect! durch das Ministerium für Soziales, Gesundheit und Integration Baden-Württemberg aus Landesmitteln, durch das Bundesministerium für Familie, Senioren, Frauen und Jugend (BMFSFJ) im Rahmen des Bundesprogramms „Demokratie leben!“ und aus Mitteln des Bayerischen Staatsministeriums für Familie, Arbeit und Soziales. Hier stellt sich also schon die Frage nach einer gewissen Staatsnähe.
Nicht nur sind staatlich alimentierte Nichtregierungsorganisationen ein Widerspruch in sich. Staatliche Finanzierung bedeutet Staatsnähe, schafft Abhängigkeiten und staatliches Einflusspotential.
Prof. Dr. Christoph Degenhart
emeritierter Professor für Staats- und Verwaltungsrecht sowie Medienrecht der Universität Leipzig
Laut Selbstbeschreibung verbindet die Menschen im Team der Meldestelle REspect! der gemeinsame Einsatz für einen besseren Umgang miteinander im Internet sowie die Arbeit gegen Hetze, Verschwörungserzählungen und Fake News.
Das ist zunächst verwirrend. Denn bei näherem Lesen scheint es sich bei den gewünschten Meldungen ausschließlich um solche zu handeln, die sich gegen »Hass und Hetze« richten sollen und womöglich rechtswidrig beziehungsweise strafbar sind. So heißt es in den FAQ der Meldestelle REspect!: »Was kann ich bei euch melden? Bei uns kannst du Hass und Hetze, aber z. B. auch Sachverhalte wie Gewaltdarstellungen einreichen. Hass und Hetze erfüllt häufig den § 130 StGB der Volksverhetzung. Auch die Leugnung des Holocausts fällt in den Bereich des § 130 StGB und ist strafbar. Beiträge, in denen bspw. ein Hakenkreuz abgebildet ist oder ein dir verdächtig wirkender Ausruf vorkommt, sind in vielen Fällen auch strafbar.«
Präzise Beschreibungen oder Definitionen der verwendeten Begrifflichkeiten fehlen völlig.
Die über 70.000 Meldungen, die seit 2017 bei der Meldestelle REspect! nach eigenen Angaben eingegangen sind, werden auf der Internetseite als Erfolg bezeichnet. Als weiteren Erfolg bezeichnet die Meldestelle REspect!, dass von diesen Meldungen knapp über 20.000 zur Anzeige gebracht wurden. Es darf bezweifelt werden, dass diese Kennzahlen Erfolg messen können. Ein messbarer Erfolg wäre allenfalls, wenn die Meldestelle REspect! angeben könnte, wie viele der Anzeigen zu strafrechtlichen Verurteilungen oder zumindest zu einem Anfangsverdacht durch die Staatsanwaltschaft geführt haben. Wäre die Quote hier sehr gering, würden 20.000 Anzeigen allenfalls zu einer größtenteils sinnlosen Belastung der Justizsystems führen und eher als Misserfolg zu werten sein. So wird zum Beispiel bei tagesschau.de berichtet, dass die Staatsanwaltschaften laut Richterbund bundesweit »im vergangenen Jahr rund 5,4 Millionen neue Fälle auf den Tisch bekommen haben – so viele wie noch nie. Zwei Jahre zuvor habe es noch etwa 4,7 Millionen Neuzugänge gegeben. Der Bundesgeschäftsführer des Richterbundes, Sven Rebehn, sieht unter anderem eine Zunahme von Verfahren wegen Hass und Hetze im Netz als einen Grund für die Entwicklung.«
Sachkenntnis und Kompetenz fraglich
Schließlich ist hinsichtlich der Meldestelle Respect! die für eine Trusted Flagger vom DSA geforderte Qualifikation »besondere Sachkenntnis und Kompetenz in Bezug auf die Erkennung, Feststellung und Meldung rechtswidriger Inhalte« sehr fraglich.
Wir haben sozialpädagogische, juristische und religionspädagogische Qualifikationen und Ausbildungen.
Meldestelle REspect!
Selbst für Juristen mit Befähigung zum Richteramt ist es häufig sehr schwierig strafbare von nicht strafbaren Inhalten zu unterscheiden. Es stellt sich deshalb die Frage, wie die Meldestelle Respect! in der Lage sein soll, dies zu leisten. Dies sei an einem aktuellen Beispiel erläutert: Wie soll die Meldestelle REspect! entscheiden, ob der Ausspruch »From the river to the sea« im Einzelfall verboten beziehungsweise strafbar ist oder eine erlaubte Meinungsäußerung darstellt? Wenn – wie geschehen – die Bundesregierung eine Verbotsverfügung in Bezug auf die Worte «Vom Fluss bis zum Meer« (auf Deutsch und anderen Sprachen) erlässt, wird sich dann die Meldestelle REspect! daran orientieren? Oder wird sich die Meldestelle REspect!, welche von der Bundesregierung mit Steuermitteln gefördert wird, fragen, ob ein solches Verbot der Bundesregierung mit Art. 5 Abs. 1 GG vereinbar ist und eventuell auch gegen die staatliche Neutralitätspflicht und das Diskriminierungsverbot verstößt? So erkannte das Landgericht Mannheim, dass die bloße Verwendung der Worte „from the river to the sea – Palestine will be free“ nicht strafbar ist. Die Reaktion des Bundesinnenministeriums auf diese Entscheidung bezeichnet Prof. Dr. Dr. h.c. Kai Ambos als enttäuschend: »Statt sich mit der gut recherchierten Begründung der Kammer auseinanderzusetzen, bezieht sich das Ministerium auf diffuse Erkenntnisse der Sicherheitsbehörden und hält daran fest, den Ausspruch nach wie vor der Hamas zuzuschreiben. Gleichsam konktrafaktisch (…) wird behauptet, dass der Slogan das ‚griffigste Kennzeichen [sei], um propagandistisch auf die Ziele und die Zusammengehörigkeit der HAMAS-Anhänger hinzuweisen« (s. JZ 2024, 620 ff.).
Wie viele gerichtliche Beschlüsse muss es eigentlich noch geben, dass sich das BMI davon beeindrucken lässt? Wann wird auch von den Sicherheitsbehörden zur Kenntnis genommen, dass Grundrechte bereits beim polizeilichen Einschreiten gegen Meinungsäußerungen zu berücksichtigen sind und ihre Geltendmachung durch nachträglichen Rechtsschutz die rechtsstaatliche Ausnahme darstellen sollte?
Prof. Dr. Dr. h.c. Kai Ambos
Professor für Straf- und Strafprozessrecht, Rechtsvergleichung, internationales Strafrecht und Völkerrecht und Richter am Kosovo Sondertribunal in Den Haag
Wie nun neben einer juristischen Qualifikation sozialpädagogische und religionspädagogische Qualifikationen und Ausbildungen dabei helfen können, strafbare von nicht strafbaren Inhalten zu unterscheiden, ist nicht ersichtlich. Der Staatsrechtler Prof. Dr. Dr. Boehme-Neßler spricht davon, dass hier »Privatpersonen für eine Aufgabe eingespannt sind, der sie eigentlich nicht gewachsen sind«. Er geht zudem davon aus, dass – wenn Laien Inhalte prüfen –, diese das normalerweise strenger als die Gerichte sehen. Zudem würden Meldestellen zur Denunziation ermutigen (lesen Sie dazu auch den Beitrag »Organisierte Denunziation ist ein Mittel von Diktaturen«). In diesem Zusammenhang sei erwähnt, dass die Meldstelle Respect! schon aufgrund einer Meldung, dass eine Politikerin als dick bezeichnet wurde, Strafanzeige erstattet hat.
Die Bundesnetzagentur und die Meinungsfreiheit
Der Präsident der Bundesnetzagentur Klaus Müller (Bündnis 90/Die Grünen) sagt: »Plattformen sind verpflichtet, auf Meldungen von Trusted Flaggern sofort zu reagieren. Illegale Inhalte, Hass und Fake News können sehr schnell und ohne bürokratische Hürde entfernt werden.« Er unterscheidet also zum Beispiel zwischen »illegalen Inhalten« und »Hass«. Hass ist keine rechtliche Kategorie, sondern ein Gefühl und damit zunächst nicht illegal (s. hier). Bei der Verwendung solch unklarer Begriffe sind unzulässige Einschränkungen der Meinungsfreiheit vorprogrammiert. Insofern wurde Klaus Müller auch entsprechend kritisiert. Müller antwortete auf die Kritik damit, dass sich »illegal« auf »Inhalte, Hass & Fake News« bezogen habe und er deshalb in seiner Aussage keine Verfassungswidrigkeit sehen würde. Dies ergibt natürlich keinerlei Sinn, da es »Illegale Hass« nicht gibt – es müsste »Illegaler Hass« heißen. Auch wäre völlig unklar, was illegale Fake News sein sollen. Und bezeichnenderweise wurde auch nicht die ursprüngliche Pressemitteilung angepasst, in der es weiterhin heißt: »Illegale Inhalte, Hass und Fake News können sehr schnell und ohne bürokratische Hürde entfernt werden.«.
Dass es der Bundesnetzagentur ausdrücklich nicht nur um illegale Inhalte geht, geht aus dem Leitfaden der Bundesnetzagentur zur Zertifizierung als Trusted Flagger hervor. Nach diesem Leitfaden sollen zum Beispiel auch »Negative Auswirkungen auf den zivilen Diskurs« meldungswürdige Inhalte darstellen können.
Trusted flaggers sollen auch solche Meinungen melden, die eine „negative Wirkung auf den zivilen Diskurs“ haben, heißt es in einem Leitfaden von Klaus Müller. Darunter kann man jede missliebige Äußerung fassen. Das ist krass rechtswidrig und der Einstieg in ein staatliches Zensursystem.
Professor für Öffentliches Recht, Medizinrecht und Rechtsphilosophie an der Universität Augsburg
Was genau aus Sicht von Klaus Müller, einem Parteimitglied der Grünen, oder aus Sicht von von der Bundesregierung geförderten Meldestellen negative Auswirkungen auf den zivilen Diskurs hat, ist unbekannt. Eine Beurteilung als negativ macht einen Inhalt jedoch nicht illegal, zumal das, was der eine als negativ bezeichnet, von dem nächsten als positiv gesehen werden kann. Insofern titelte die Neue Zürcher Zeitung (NZZ) – völlig zu Recht – »‚Trusted Flagger‘ durchsuchen das Internet im Auftrag der Bundesregierung nach unliebsamen Meinungen.«
Auch »Tierleid« findet sich dort. Ich bin gespannt, ob die Videos von Tierrechtsorganisationen, die auf Missstände hinweisen wollen, geflaggt werden, wenn sie entsprechende Videos veröffentlichen.
Wolfgang Kubicki
Stellvertretender FDP-Bundesvorsitzender und Bundestagsvizepräsident
FAZIT
Der Digital Services Act gibt vor, dass »Trusted Flagger« dabei helfen sollen Abhilfe bei mutmaßlich rechtswidrigen Inhalten zu schaffen. Laut der Pressemitteilung der Bundesnetzagentur geht es aber ausdrücklich auch um Inhalte, die normalerweise nicht rechtswidrig sind, wie zum Beispiel Fake News. Wie mit dem Begriff »Fake News« bzw. »Desinformation« die Meinungsfreiheit eingeschränkt wird, erfahren sie hier – bereits dies ist problematisch. Die schlimmsten Befürchtungen bewahrheiten sich schließlich mit dem Leitfaden der Bundesnetzagentur, da dort sogar Inhalte genannt sind, bei denen nicht ersichtlich ist, unter welchem Aspekt diese überhaupt rechtswidrig sein sollen. So werden dort zum Beispiel »Inhalte, die Essstörungen fördern« unter den illegalen Inhalten gelistet. Damit wird deutlich, dass die Bundesnetzagentur völlig frei von den rechtlichen Vorgaben des Digital Services Act arbeitet.
Das erschüttert gleichzeitig das Vertrauen in die Auswahl der »Trusted Flagger«. Denn wenn der Leitfaden der Bundesnetzagentur zur Zertifizierung als Trusted Flagger schon vorgibt, dass Trusted Flagger auch solche sein können, die rechtmäßige Inhalte den Plattformbetreibern als illegale Inhalte melden können, dann steigt die Wahrscheinlichkeit stark an, dass eben diese ausgewählten Trusted Flagger völlig einwandfreie Inhalte gegenüber den Plattform-Betreibern brandmarken. Und dies wird wiederum zum Problem des Overblockings führen.
Der Bundesnetzagentur geht es offensichtlich nicht darum, strafbare Inhalte zu entdecken. Sie lässt vielmehr nach unmoralischen, ungesunden, unsauberen Inhalten suchen, die gemeldet und entfernt werden sollen. Doch wir müssen uns entscheiden: Entweder leben wir in einer freien Gesellschaft, wie es das Grundgesetz vorsieht, oder in einer klinisch sauberen Gesellschaft. Laien, die in den Dienst der Sauberkeit gestellt werden, sind jedoch hochgefährlich – gerade in Deutschland..
Prof. Dr. Dr. Volker Boehme-Neßler
Professor für öffentliches Recht an der Universität Oldenburg
Klaus Müller behauptet, dass er lediglich die Vorgaben des DSA umsetze und damit EU-Recht vollziehe. Der DSA aber regelt, dass vom Meldesystem der Trusted Flagger nur rechtswidrige Inhalte erfasst werden. Legale Inhalte dürfen laut DSA nicht entfernt und damit auch nicht gemeldet werden. Der Leitfaden belegt nun, was man bislang nur vermuten konnte: Dass die Bundesnetzagentur bei der Umsetzung des DSA über das Ziel hinausschießt und auch die Meldung rechtmäßiger Inhalte ermöglichen will. Zahlreiche der im Leitfaden genannten ‚unzulässigen Inhalte‘ bezeichnen keinen Straftatbestand, etwa ‚Hassrede‘, ‚Diskriminierung‘ oder ‚negative Auswirkungen auf den zivilen Diskurs‘. Solche Inhalte sind nicht per se rechtswidrig. Der Leitfaden ist mit den EU-Vorgaben darum nicht vereinbar.
Professor für Öffentliches Recht, Medizinrecht und Rechtsphilosophie an der Universität Augsburg
Hinweis: Hervorhebung in Zitaten durch Jan Ristau.
