Blocking Overblocking

Das französische Gesetz gegen Hasskriminalität im Internet ist zu weiten Teilen verfassungswidrig – das hat der Conseil Constitutionnel am Donnerstag entschieden. Nach einem langwierigen und in Politik und Öffentlichkeit kontrovers diskutierten Gesetzgebungsverfahren hatte die französische Nationalversammlung das Gesetz am 13. Mai 2020 beschlossen. Das Inkrafttreten war bereits für den 1. Juli geplant. Daraus wird nun nichts: Die Kernelemente des Gesetzes verstoßen laut Conseil Constitutionnel gegen die Meinungsfreiheit, garantiert in Art. 11 der französischen Erklärung der Menschen- und Bürgerrechte von 1789. Just am selben Tage, an dem der Conseil Constitutionnel seine Entscheidung verkündete, sendete Deutschland gegenteilige Signale: Der Bundestag hat am Donnerstag das Gesetz zur Bekämpfung des Rechtsextremismus und der Hasskriminalität verabschiedet. Der deutsche Gesetzgeber ändert darin unter anderem das Netzwerkdurchsetzungsgesetz (NetzDG) und bestätigt den auch in Deutschland umstrittenen Ansatz, Netzwerkanbieter im Kampf gegen Hass im Netz stärker in die Verantwortung zu nehmen. Was folgt aus der französischen Entscheidung für die verfassungsrechtliche Bewertung des deutschen NetzDG?

In Frankreich wie in Deutschland ist die Befürchtung groß, dass bußgeldbewehrte gesetzliche Vorgaben, Meldewege einzurichten und Prüf- und Entfernungspflichten bestimmter strafbarer Inhalte auszugestalten, die Anbieter sozialer Netzwerke dazu verleiten, auch solche Inhalte zu löschen oder zu sperren, die nicht rechtswidrig sind – sogenanntes Overblocking. Der Conseil Constitutionnel stellt fest: „…les dispositions contestées ne peuvent qu’inciter les opérateurs de plateforme en ligne à retirer les contenus qui leur sont signalés, qu’ils soient ou non manifestement illicites“ – die angegriffenen Vorschriften setzen den Plattformanbietern Anreize, die ihnen gemeldeten Inhalte zu entfernen, seien sie offensichtlich rechtswidrig oder nicht (Rn. 19). Der Verfassungsrat teilt also die Befürchtungen nicht nur der Senator*innen, die aus Furcht vor Overblocking den Normenkontrollantrag gestellt und damit die verfassungsgerichtliche Entscheidung herbeigeführt haben. Auch in der französischen Öffentlichkeit wird die Entscheidung überwiegend positiv aufgenommen (vgl. etwa hier und hier, anders aber gestern in Le Monde).

Eine falsche Entscheidung genügt

Zu Recht? Teilweise. Das französische Gesetz zur Bekämpfung von Hass im Netz hätte den Netzwerkanbietern tatsächlich starke Anreize gesetzt, gemeldete Inhalte im Zweifel zu entfernen. Dies unterscheidet es vom deutschen NetzDG, das in wesentlichen Punkten andere Regelungen trifft als sein französisches Pendant.

Die auf die Initiative der Abgeordneten Laetitia Avia zurückgehende „Loi Avia“ sah wie das NetzDG ein einheitliches Meldesystem für Beschwerden über bestimmte rechtswidrige Inhalte vor (Art. 4 n° 5) und machte Vorgaben, innerhalb welcher Frist die Netzwerkanbieter gemeldete Inhalte prüfen und ggf. entfernen müssen. Gem. Art. 1^er n° 12 drohte Netzwerkanbietern ein Bußgeld, wenn sie einen gemeldeten offensichtlich rechtswidrigen Inhalt nicht innerhalb der 24-Stunden-Frist entfernten, nicht aber im umgekehrten Falle: wenn sie einen Inhalt entfernten, obwohl dieser gar nicht rechtswidrig war. Eine einzige falsche Entscheidung sollte als Grundlage für die Verhängung eines empfindlichen Bußgelds genügen. Dass Netzwerkanbieter dem wohl in Zweifelsfällen vorgebeugt hätten, indem sie rechtmäßige Inhalte sicherheitshalber entfernt hätten, liegt auf der Hand. Dass der Conseil Constitutionnel die Ausgestaltung der französischen Bußgeldregelungen rügt, überzeugt also.

Die Bußgeldregelungen des NetzDG schaffen dagegen keine einseitigen Anreize zum Overblocking. Nur systemische Verstöße gegen die Prüf- und Entfernungspflicht, also nicht einmalige Falschentscheidungen, sind bußgeldbewehrt (vgl. die Bußgeldleitlinien des BMJV, S. 7). Gem. § 4 Abs. 1 Nr. 2 NetzDG verstößt gegen die Pflicht, wer ein „Verfahren für den Umgang mit Beschwerden (…) nicht richtig (…) vorhält“ – dies ist auch der Fall, wenn systemisch rechtmäßige Inhalte entfernt werden. Ein Bußgeld kann Netzwerkanbietern in Deutschland also nicht nur drohen, wenn sie wiederholt rechtswidrige Inhalte nicht entfernen, sondern auch, wenn sie systematisch overblocken. 

Die Bußgeldregelung

Der Conseil Constitutionnel tat sich aber nicht nur mit den Spezifika des französischen Gesetzes – insbesondere seinen Bußgeldregelungen – schwer. Dass die „Loi Avia“ einseitige Anreize für ein Overblocking setze, folgert es aus einer Zusammenschau von fünf Gründen. Dazu zählt die tatsächlich problematische Bußgeldregelung (Rn. 18). Die weiteren vier Gründe beziehen sich auf Regelungen, die im NetzDG Parallelen finden: Dass die Pflicht zur Prüfung und etwaigen Entfernung gemäß „Loi Avia“ schon durch eine einfache Meldung ausgelöst wird – ohne weitere Hürden, etwa ein gerichtliches Verfahren – und unabhängig davon, wie viele Meldungen das Netzwerk erreichten (Rn. 14), könne Netzwerkanbieter überfordern. Etwa für Fälle zahlreicher Meldung innerhalb kurzer Zeit hätte man laut der Entscheidung Ausnahmetatbestände vorsehen müssen (Rn. 17).

Insoweit ließe sich die Argumentation auf das NetzDG übertragen: Auch in Deutschland lösen NetzDG-Beschwerden von Nutzer*innen unmittelbar die Pflichten zur Prüfung und etwaigen Entfernung aus (§ 3 Abs. 2 Nr. 1) – unabhängig von der Zahl der Meldungen. Die Befürchtung des Conseil Constitutionnel vor einer unbeherrschbaren Vielzahl von Meldungen lässt sich angesichts der Erfahrungen mit dem deutschen NetzDG jedoch relativieren: Ein Großteil der entfernten Inhalte wird nicht wegen Verstoßes gegen das NetzDG, sondern wegen Verstoßes gegen die netzwerkeigenen Community Standards gemeldet bzw. gelöscht (vgl. etwa den aktuellen Transparenzbericht von YouTube, S. 1, 9). Dass die Zahl gemeldeter Inhalte durch das französische Gesetz wohl gestiegen wäre, ist gerade Ziel der gesetzlichen Ausgestaltung, deren Wirksamkeit entscheidend von der Mitwirkung der Nutzer*innen abhängt.

Zu kurze Frist

Laut Conseil Constitutionnel sei die 24-stündige Frist zur Prüfung und etwaigen Entfernung der Inhalte sehr kurz (Rn. 16), obwohl die Entscheidungen juristisch äußerst anspruchsvoll sein könnten und unter Umständen die Prüfung einer Vielzahl von Straftatbeständen erfordere (Rn. 15). Das deutsche NetzDG sieht in § 3 Abs. 1, Abs. 2 Nr. 2 ebenfalls eine 24-stündige Frist für die Prüfung und Entfernung offensichtlich rechtswidriger Inhalte vor. Anders als in Frankreich beträgt die Prüf- und Löschfrist nach NetzDG jedoch für Inhalte, deren Rechtswidrigkeit nicht offensichtlich ist, sieben Tage; selbst diese Frist kann in bestimmten Fällen überschritten werden (§ 3 Abs. 2 Nr. 3 NetzDG). In Frankreich dagegen sollten überhaupt nur offensichtlich rechtswidrige Hassposts Pflichten zur Prüfung und Entfernung auslösen (Article 1^er n° 9). Die Sorgen des Conseil Constitutionnel vor einer qualitativen Überforderung der Netzwerkanbieter sind damit nicht nachvollziehbar: Offensichtliche Rechtswidrigkeit liegt schließlich nur dann vor, wenn Netzwerkanbieter keine komplexe Prüfung vornehmen müssen.

Da sich die Begründung auf das kumulative Vorliegen dieser fünf Gründe stützt, bleibt leider offen, welche Änderungen aus Sicht des Conseil Constitutionnel für eine verfassungskonforme Ausgestaltung notwendig wären. Dabei spricht vieles dafür, dass eine veränderte Bußgeldregelung genügen würde, um der Gefahr von Overblocking zu entgehen: Schließlich setzt eine innerhalb kurzer Zeit zu leistende, juristisch anspruchsvolle Prüfung als solche keinen Anreiz für einseitige Fehlentscheidungen im Sinne eines Overblockings. Genauso sind bei qualitativer und quantitativer Überforderung Fehlentscheidungen in die andere Richtung, also zugunsten der Poster*innen eines rechtswidrigen Inhalts, denkbar. Die Erwägungen, die zur Verfassungswidrigkeit großer Teile der „Loi Avia“ führen, sind damit auf das deutsche NetzDG mit seinem auf systemische Fehler abstellenden Bußgeldregime nicht übertragbar.

Vom französischen Gesetz gegen Hass im Netz ist nun kaum noch etwas übrig. Dennoch bleibt angesichts dieses weiteren nationalen Vorstoßes eines marktmächtigen Mitgliedsstaats der Druck auf die EU groß, binnenmarkt-einheitliche Vorgaben für die Bekämpfung von Hass und Hetze in sozialen Netzwerken zu schaffen. Die Entscheidung des Conseil Constitutionnel verdeutlicht, welchen Herausforderungen die EU in einem so grundrechtssensiblen Bereich gegenübersteht. Wie sie im geplanten Digital Services Act mit dieser Aufgabe umgeht, bleibt abzuwarten. Bis dahin lohnt der regelmäßige gegenseitige Blick über die Grenze, um die Bekämpfung von Hass und Hetze im Netz ohne Schaden für die Meinungsfreiheit der Bürger*innen weiter zu optimieren.