Kultur Hass und Fake News im Netz: Was das Gesetz gebracht hat, das dies verhindern soll - Ein Interview

Seit zwei Jahren ist das Gesetz in Kraft, das Hasskommentare und Fake News in Sozialen Medien eindämmen soll. Was hat dieses sogenannte Netzwerkdurchsetzungsgesetz seither gebracht? Ein Gespräch mit dem Journalisten Albrecht Ude, Mitglied des Vorstands beim Netzwerk Recherche e.V.

Die Ausgangslage war klar definiert: Das Gesetz zur Verbesserung der Rechtsdurchsetzung in Sozialen Netzwerken (Netzwerkdurchsetzungsgesetz, kurz NetzDG), das am 1. Oktober 2017 in Kraft trat, sollte Hassreden, Fake News und strafbare Inhalte auf den Plattformen Sozialer Netzwerke bekämpfen. Google, YouTube, Facebook, Instagram, Twitter & Co. werden aufgefordert, ein effektives Beschwerdemanagement zu installieren, um rechtswidrige Inhalte binnen 24 Stunden zu löschen und auf Nutzerbeschwerden innerhalb von 48 Stunden reagieren zu können. Doch wie effektiv ist dieses Gesetz? Der 54-jährige Journalist und Recherche-Trainer Albrecht Ude glaubt, dass Firmen wie Facebook daraus resultierende Bußgelder aus der Portokasse bezahlen. Die Tatsache, dass Algorithmen darüber entscheiden, was illegale Online-Inhalte sind, erhöht die Gefahr einer Alibi-Kontrolle, glaubt er.

Herr Ude, Facebook ist das erste „Opfer“ des NetzDGs und muss zwei Millionen Euro Bußgeld bezahlen. Ein Pappenstiel für den Technologie-Riesen?
Albrecht Ude: Zunächst einmal sehe ich dieses Strafmaß als ein Signal an Facebook, dass das Gesetz auch angewandt wird. Der Cambridge-Analytica-Skandal brachte Facebook in den USA eine Strafzahlung von mehr als fünf Milliarden US-Dollar ein – ohne, dass die Existenz des Konzerns auch nur im Ansatz gefährdet wurde. Der Jahresumsatz ist sogar gestiegen. Bußgelder in Millionenhöhe zahlt dieser Konzern aus der Portokasse.

Wohl wahr. Das Ziel des Gesetzes ist es, Bedrohungen, Beleidigungen oder Hassbotschaften schneller aus den Kommentarbereichen von Sozialen Medien heraus zu bekommen. Mit Erfolg?
Das Gesetz ist ein erster Schritt, weitere müssen folgen. Julia Ebner vom Londoner Institute for Strategic Dialogue hat in einem ,Spiegel’-Interview über die angeblich sozialen Netze gesagt: ,Sie machen genau so viel, wie von ihnen verlangt wird, ohne politischen und öffentlichen Druck passiert dort nichts.’ Das NetzDG gilt für Telemediendiensteanbieter, die mit Gewinnerzielungsabsicht Plattformen im Internet betreiben, die dazu bestimmt sind, dass Nutzer beliebige Inhalte mit anderen Nutzern teilen oder der Öffentlichkeit zugänglich machen. Das heißt: Für alle Sozialen Netzwerke. Aber all diese Firmen wollen Programme schreiben und damit Geld verdienen. Einzelne Kommentare auf Strafbares zu prüfen, möchten diese Betreiber am liebsten auch durch Algorithmen erledigt wissen. Ganz einfach deshalb, weil Entscheidungen von Menschen, also in Handarbeit, Arbeitskräfte brauchen, die dafür bezahlt werden wollen, was wiederum den Gewinn für die Aktionäre mindert. Der ist das eigentliche Ziel dieser Firmen. Das scheuen diese Firmen daher wie der Teufel das Weihwasser.

Es ist eine eminent wichtige Entscheidung, ob der Staat und die Zivilgesellschaft sie damit durchkommen lassen. Hier geht es im Kern um das Verhältnis zwischen Demokratie und Kapitalismus. Also um die Rangfolge der Fragen: Was darf gesagt werden? Was bringt Gewinn?

Laut Twitter gab es im ersten Halbjahr 2019 insgesamt 480.00 Beschwerden, also doppelt so viele wie im gleichen Vorjahreszeitraum. In 44.752 Fällen hat Twitter reagiert, also in jedem zehnten Fall. Was sagt diese Quote über die Effizienz des Gesetzes aus?
Gar nichts. Das zeigt einfach nur, dass Twitter mehr Mitarbeiter für das Beschwerdemanagement einstellen muss. Derzeit sind es gerade mal 50 Personen.

Alle bei Twitter wissen, dass sie tagtäglich zum Erfolg von Donald Trump beitragen. Da sollten die mal drüber nachdenken, denn da sind sie sehr effizient.

Wie schwer ist es, zu entscheiden, ob man als Betreiber auf strafbare Inhalte reagieren muss oder nicht?
Das differiert, es gelten die lokalen Gesetze. Die Leugnung des Holocausts ist in Deutschland strafbar, in den USA aber nicht. Alle großen Sozialen Netzwerke sind in den USA entstanden, einem sehr homogenen Kulturraum. Für solche Firmen ist es selbstverständlich ein Schock, wenn sie nach Europa expandieren und dann mitkriegen, wie viele Kulturen, Sprachen, Staaten, Rechtssysteme und lebendige Traditionen es hier gibt. Das kennen die nicht, und das respektieren zu müssen, ist für die richtig schwierig.

Eine Expansion in die Volksrepublik China ist viel leichter für die. Da haben sie allerdings das Problem, dass das Informationsmonopol, welches sie gerne selbst hätten, auch die Kommunistische Partei Chinas beansprucht. Aber da müssen sie sich halt durch, und im Gegensatz zu Europa ist das bestimmt für die Technologieriesen der einfachere Weg.

Können Algorithmen so programmiert werden, dass sie illegal Inhalte zuverlässig identifizieren? Und wer haftet für Fehlleistungen?
Für alles, was in einer Domain veröffentlicht wird, haftet deren Betreiber. Sicherlich kann man von Algorithmen viel erwarten oder erhoffen, aber nicht menschliche Intelligenz oder gar Empathie. Was wir bisher unter ,Deep Learning’ oder Künstliche Intelligenz verstehen, ist eigentlich die Auswertung großer, unglaublich großer Datenmengen durch statistische Methoden. Dass ändert aber nichts daran, dass jede statistische Aussage für den konkreten Einzelfall irrelevant ist!

Das heißt, Sie sehen die Gefahr, dass auch legale Inhalte gelöscht werden und damit die Kommunikationsfreiheit eingeschränkt wird?
Selbstverständlich ist diese Gefahr immer präsent. Es geht ja in jedem Einzelfall darum, die Grenzen legaler Meinungsfreiheit zu bestimmen. Das machen dann die Mitarbeiter privater Firmen, die im Kern die Gewinne der Aktionäre erhöhen sollen.

Eben genau die Mitarbeiter, die dann von ihren Vorgesetzten gefragt werden, wie viele Fälle sie in der festgesetzten Zeit erledigt haben. Und die wissen, dass sie geschasst werden, wenn das zu wenig waren. Minderleister nennt man solche Leute, die zu lange nachdenken, im Managerdeutsch. Oder auch gern Under-Performer. Das dieses System der Selbstkontrolle langfristig nicht funktionieren wird, liegt doch auf der Hand.

Welches Nachbesserungs- und Verbesserungspotentiale sehen Sie für das Gesetz?
Die entscheidende Frage ist gar nicht: Wer schreibt was? Sondern vielmehr: Wer liest was? Oder noch präziser: Wer kriegt was zu lesen? Wichtig ist es, nicht nur auf der Ebene der geschriebenen Kommentare einzugreifen, sondern schon bei den eingesetzten Algorithmen.

Formal fallen, laut dem Bundesamt für Justiz, alle Sozialen Netzwerke unter das NetzDG. Bislang haben mit Facebook, YouTube, Instagram, Twitter, Google+, Pinterest und Soundcloud gerade einmal sieben Unternehmen einen Zustellungsbevollmächtigten benannt. Ist das NetzDG eine Art Freiwilligenprogramm?
Nein. Betroffen ist jedes soziale Netz, bei dem eine Beschwerde eingeht. Definiert man ein soziales Netz als eine vom Anbieter gestellte Software und von den Nutzern erstellte Inhalte, das heißt als ,User Generated Content’, dann gibt es Tausende davon. Viele für kleine Interessenbereiche. Und selbst Wikipedia ist, so gesehen, ein soziales Netz. Das NetzDG nimmt ausdrücklich nur die mit Gewinnerzielungsabsicht in den Blick. Aber jedes dieser Netze wird reagieren müssen, sobald sich jemand beschwert und dabei hartnäckig bleibt.

Welche Graubereiche zwischen legalen und illegalen Kommentaren gibt es?
Das Problem ist wie immer das Spannungsfeld zwischen Meinungsfreiheit und Zensur. Das führt immer zur Frage, wer die Entscheidung trifft, auch wenn er gezwungen wird, zu entscheiden. Das läuft immer auf ein Diktum des römischen Dichters Ovid heraus: „Wer bewacht die Wächter?“ In diesem Fall: hoffentlich eine kritische Öffentlichkeit.

Das Bundesamt für Justiz wertet das NetzDG als vollen Erfolg – Sie auch?
Dass eine Behörde die eigene Leistung als Erfolg bezeichnet, ist weder überraschend, noch überzeugend. Das Gesetz ist ein erster Schritt, es ist Teil eines Prozesses. Wichtig ist, dass dieser Prozess weitergeht.

Welche Änderungen wünschen Sie sich dringend für eine Novelle des Gesetzes?
Wie vorhin schon gesagt, halte ich es für wichtig, auch die Algorithmen der Konzerne in den Blick zu nehmen. Da wird die Gratwanderung zwischen notwendiger Transparenz und möglichem Missbrauch aber noch schwieriger. Bleiben die Algorithmen Firmengeheimnisse, kann man sie nicht kontrollieren. Legt man sie offen, öffnet man auch dem Missbrauch Tür und Tor, das sieht man bei diversen Formen der sogenannten Suchmaschinenoptimierung. Am Wichtigsten ist vielleicht, dass das Thema in der Diskussion bleibt. Interview: Wolfgang Scheidt