Archive by Author

Offener Brief an deutsche Abgeordnete im LIBE-Ausschuss

Sehr geehrte Abgeordnete,

wir möchten Ihnen unsere tiefgreifende Besorgnis über den Entwurf der EU-Kommission für eine Verordnung zur Verhinderung der Verbreitung terroristischer Online-Inhalte mitteilen. Der ausufernde Anwendungsbereich, die unsachgemäße Definition terroristischer Inhalte, technisch höchst zweifelhafte automatische Zensurmechanismen und die mit der Übertragung der Rechtsdurchsetzung an Dritte verbundene Einschränkung des Rechtswegs stellen eine ernsthafte Bedrohung für Meinungsfreiheit, Informationsfreiheit, Vertraulichkeit der Kommunikation und die Vielfalt der medialen Landschaft des Internets dar.

Ziel terroristischer Handlungen ist, durch die Verbreitung von Schrecken das Vertrauen in die offene Gesellschaft zu zerstören und so Meinungsfreiheit und Demokratie aufzuweichen.

Umso dringender ist es nötig, demokratische Grundrechte aufrechtzuerhalten.

Wir, die unterzeichnenden Organisationen, bitten Sie, die Verabschiedung dieses Entwurfes zu verhindern.

1. Anwendungsbereich

Der extrem weite Anwendungsbereich des Verordnungsentwurfs erfasst nicht etwa nur große soziale Netzwerke, sondern auch eine Vielzahl kleiner Websites, etwa alle Blogs und Nachrichtenportale mit Kommentarfunktion, Foren, Videostreamingdienste, File-Sharing- und auch der Öffentlichkeit nicht zugängliche Cloud-Dienste. Kleinere Anbieter und vor allem nichtkommerzielle Dienste haben nicht die technischen und personellen Möglichkeiten, Löschungen binnen einer Stunde durchzuführen oder hochkomplexe Filtersysteme einzurichten. Viele wären deshalb gezwungen, ihre Angebote für benutzergenerierten Content einzustellen oder die Ausführung an größere Digitalkonzerne auszulagern. Das würde das weitere Anwachsen von monopol-ähnlichen Unternehmen fördern und sich stark bremsend auf die Entwicklung der Digitalwirtschaft sowie auf nichtkommerzielle Angebote auswirken.

2. Definition terroristischer Inhalte

Die Definition terroristischer Inhalte in Art. 2 greift auf die von Menschenrechtsorganisationen stark kritisierte RL 2017/541 zurück, mit der EU-weite Vorgaben für Terror-Straftatbestände eingeführt wurden. Von ihr können auch Formen zivilen Ungehorsams, zum Beispiel Blockadeaktionen, erfasst sein. Der Verordnungsentwurf vermindert die Anforderungen noch stärker, indem er auf jeden Vorsatz verzichtet und etwa „Methoden für das Begehen terroristischer Straftaten“ als terroristischen Inhalt qualifiziert. Dadurch können auch journalistische Aktivitäten oder solche von Menschenrechtsorganisationen betroffen sein, die sich mit dem Thema Terrorismus beschäftigen. Bemerkenswerter Weise halten der UN-Sonderberichterstatter für Meinungsfreiheit, der UN-Sonderberichterstatter für das Recht auf Privatheit und die UN-Sonderberichterstatterin für den Grundrechtsschutz im Anti-Terror-Kampf es für nötig, die EU-Organe darauf hinzuweisen, dass auch Inhalte, die den Staat schockieren, angreifen und stören, von der Meinungs- und Informationsfreiheit gedeckt sind und zum demokratischen Diskurs gehören.

3. Proaktive Maßnahmen

Nach Art. 6 könnten Anbieter von Hosting-Diensten dazu verpflichtet werden, Uploadfilter zu implementieren, die bereits das Hochladen von als terroristisch erkannten Inhalten verhindern. Wenn Plattformbetreiber durch den Staat beauftragt werden, Inhalte vor der Veröffentlichung zu kontrollieren und gegebenenfalls eine Veröffentlichung zu verhindern, ist das eine Vorzensur, die das Grundgesetz in Art. 5 verbietet. Allgemeine Überwachungspflichten für Plattformen sind außerdem durch Art. 15 der eCommerce-Richtlinie verboten.

Die Treffsicherheit von Uploadfiltern ist nicht gewährleistet: Die Plattform Youtube, die sie bereits auf freiwilliger Basis einsetzt, sperrte zehntausende Videos, die Kriegsverbrechen des IS dokumentierten, weil in ihnen IS-Flaggen zu sehen waren. Automatisierte Filter sind nicht in der Lage, den Kontext von Ideen und Äußerungen einzuschätzen und daher massiv fehleranfällig. Dabei ist jeder einzelne legale Inhalt, der fehlerhaft gelöscht wird, eine unzulässige Verletzung der Meinungsfreiheit. Eine Fehlerquote, die jeder Filter aufweist, ist hier inakzeptabel.

Außerdem bergen solche Mechanismen ein enormes Missbrauchspotenzial, weil durch kleine Änderungen der Algorithmen statt terroristischer Propaganda auch unbequeme Postings gefiltert werden können. In einer Welt, in der soziale Netzwerke eine entscheidende Rolle für die Meinungsbildung spielen, wäre das fatal.

4. Übertragung der Rechtsdurchsetzung an Private

Nach der Verordnung sollen Inhalte nicht nur auf behördliche Anordnung gelöscht werden, sondern es besteht des weiteren die Möglichkeit, dass nationale Behörden Inhalte dem Hostinganbieter melden, damit dieser einen Verstoß gegen seine Nutzungsbedingungen prüft (Art. 5 VO-Entwurf). Private Hostinganbieter können im Rahmen ihres virtuellen Hausrechts durch Nutzungsbedingungen deutlich stärker als staatliche Akteure regeln, welche Inhalte gepostet werden dürfen. Auf diesem Weg könnten Behörden versuchen, Plattformbetreiber zu instrumentalisieren, um unliebsame Beträge verschwinden zu lassen, für deren Löschung auf Basis nationalen oder internationalen Rechts keine Grundlage bestünde. Besonders gefährlich ist dies, weil als Rechtsmittel gegen die Löschung zunächst eine Beschwerde beim Hoster vorgesehen ist. Der Entwurf stellt nicht klar, inwiefern ein Inhalteanbieter gegen eine Meldung verwaltungsgerichtlich vorgehen kann und ob eine gerichtliche Überprüfung auf Wahrung von Grundrechten stattfindet. Das ist skandalös und steht in eklatantem Widerspruch zum Erfordernis effektiven Rechtsschutzes nach der EU-Grundrechtecharta. Dieses tiefgreifende Risiko der Umgehung von Grundrechten ist durch nichts gerechtfertigt: Hält eine Behörde es nicht für erforderlich, einen Post via Löschungsanordnung blockieren zu lassen, so besteht kein Anlass, den Hostinganbieter zu einer Löschung auf abweichender Rechtsgrundlage anzuregen.

Wir fordern Sie daher auf, den Entwurf abzulehnen.

Mit freundlichen Grüßen

Digitale Gesellschaft
Digitalcourage
Chaos Computer Club
Gesellschaft für Informatik
Aktion Freiheit statt Angst
Forum InformatikerInnen für Frieden und gesellschaftliche Verantwortung
Wikimedia Deutschland


Digitale Gesellschaft kritisiert EU-Verordnungsentwurf zur Verhinderung der Verbreitung terroristischer Online-Inhalte in offenem Brief

Im EU-Parlament wird derzeit über einen Verordnungsentwurf der Kommission zur Verhinderung der Verbreitung terroristischer Online-Inhalte verhandelt. Der Entwurf birgt erhebliche Einschränkungen von Meinungs-, Informations- und Berufsfreiheit sowie große Missbrauchsrisiken. Die netzpolitische Organisation Digitale Gesellschaft e.V. sieht darin eine massive Gefahr für die Meinungslandschaft im Internet. Auch drei UN-Sonderkommissare warnen vor erheblichen Eingriffen in Menschenrechte.

Nach dem Entwurf sollen als terroristisch eingestufte Inhalte auf behördliche Anordnung binnen einer Stunde gelöscht werden – bei Nichtbeachtung drohen erhebliche Bußgelder.
Von diesen Pflichten sind alle Internetdiensteanbieter, die Informationen von Nutzern speichern, um sie Dritten zur Verfügung zu stellen, betroffen. Der ausufernde Anwendungsbereich würde das Aus für viele kleinere Anbieter und Non-Profit-Dienste bedeuten. Umfasst sind nicht nur öffentlich zugängliche Inhalte, sondern auch solche, die nur in einer kleinen Gruppe geteilt werden. Besonders problematisch ist, dass die Definition terroristischer Inhalte in ihrer derzeitigen Form journalistische Tätigkeiten und Erscheinungsformen zivilen Ungehorsams umfasst.

Elisabeth Niekrenz, politische Referentin der Digitalen Gesellschaft, erläutert: „Neben den Löschungsanordnungen sieht der Entwurf weitere Werkzeuge für die nationalen Behörden vor: Plattformbetreiber könnten dazu verpflichtet sein, durch Uploadfilter Inhalte vor Veröffentlichung mittels Algorithmen darauf zu überprüfen, ob sie terroristische Inhalte enthalten und gegebenenfalls zurückzuhalten. Darüber hinaus besteht die Möglichkeit, dass Behörden Inhalte den Anbietern melden, damit diese einen Verstoß gegen ihre Nutzungsbedingungen prüfen. Der Rechtsschutz der Inhalteanbieter gegen Löschungen ist in diesen Fällen durch eine Verschiebung der Entscheidung auf die privaten Hostinganbieter stark verkürzt.“

Die Digitale Gesellschaft e.V. hat sich gemeinsam mit dem Chaos Computer Club, der Gesellschaft für Informatik, der Aktion Freiheit statt Angst, dem Forum InformatikerInnen für Frieden und gesellschaftliche Verantwortung, Digitalcourage und Wikimedia Deutschland in einem offenen Brief an die deutschen Abgeordneten im Ausschuss für Bürgerliche Freiheiten, Justiz und Inneres (LIBE) gewandt und sie dazu aufgefordert, den Entwurf abzulehnen.  

Offener Brief:
https://digitalegesellschaft.de/wp-content/uploads/2019/02/Offener-Brief-gegen-den-Verordnungsentwurf-zur-Verhinderung-der-Verbreitung-terroristischer-Online-Inhalte-1.pdf (PDF-Version)

https://digitalegesellschaft.de/2019/02/offener-brief-an-deutsche-abgeordnete-im-libe-ausschuss/ (HTML-Version)

Weitere Informationen:
European Digital Rights (EDRi): https://edri.org/terrorist-content-regulation-document-pool/

netzpolitik.org: https://netzpolitik.org/2019/uploadfilter-gegen-terroristische-online-inhalte-wie-das-eu-parlament-um-seine-position-ringt/

Bericht der UN-Sonderkommissare:
https://spcommreports.ohchr.org/TMResultsBase/DownLoadPublicCommunicationFile?gId=24234 (PDF)

Legal Tribune Online (LTO): https://www.lto.de/recht/hintergruende/h/eu-kommission-verordnung-anti-terror-online-plattformen-loeschen/