Archive by Author

Terror Content Regulation: Die Vorschläge von Kommission und LIBE-Ausschuss im Überblick

Mit einer neuen Verordnung möchte die EU-Kommission terroristische Inhalte auf Internetplattformen eindämmen. Darin sind Befugnisse vorgesehen, die leicht verwendet werden können, um anderweitig unerwünschte Inhalte EU-weit aus dem Netz zu verdrängen. Zudem wird den Plattformen einiges abverlangt: Sie sollen Inhalte binnen einer Stunde nach einer behördlichen Anordnung sperren und durch sogenannte proaktive Maßnahmen terroristische Inhalte selbst verhindern.

Von der Selbstregulierung zur Verordnung

Die geplante Verordnung ist nicht der erste Schritt zum Vorgehen gegen terroristische Inhalte. 2015 startete die EU-Kommission das EU-Internetforum (Pressemitteilung der Kommission vom 03.20.2015), einen Kooperationsrahmen zwischen der Kommission und Vertretern der Internetwirtschaft. Mittlerweile sind die meisten großen Internetdienstleister beteiligt. Auf deren Initiative wird seit 2016 an einer Datenbank gearbeitet, die von den Unternehmen gemeinschaftlich mit Fingerprints als terroristisch klassifizierter Inhalte gefüttert wird, die Database of Hashes (Pressemitteilung der Kommission vom 06.12.2017). Ebenfalls 2015, in Reaktion auf die Anschläge in Frankreich, richtete Europol eine Meldestelle für Internet-Inhalte, die Internet Referral Unit (IRU), ein, wie Netzpolitik.org berichtete. Diese kann Inhalte mit der Empfehlung, sie wegen eines Verstoßes gegen Nutzungsbedingungen zu sperren, an Plattformen melden. Im April 2018 forderten Seehofer und der französische Innenminister in einem Schreiben an EU-Kommission ein schärferes Vorgehen gegen Terror-Propaganda im Netz: Terroristische Inhalte sollen binnen einer Stunde nach Veröffentlichung entfernt werden, dies müsse durch Sanktionsmechanismen sichergestellt werden. Dabei sollen terroristische Inhalte nur den Anfang machen, zukünftig wünschen sich die Innenminister, dass auch gegen sonstige rechtswidrige Inhalte mit diesen Mitteln vorgegangen wird.

Im September 2018 veröffentlichte die Kommission einen Verordnungsentwurf, der das umzusetzen versucht: Die Sperrung auf Anordnung mit einstündiger Frist, Uploadfilter und ein Rechtsrahmen für Meldungen analog der Referrals von Europol.

Der federführende Ausschuss des europäischen Parlaments für bürgerliche Freiheiten, Justiz und Inneres (LIBE) hat einige Verbesserungen vorgeschlagen, unter anderem Ausnahmen für journalistische Inhalte geschaffen und die Verpflichtung zu Uploadfiltern gestrichen. Auch dieser Entwurf kann aber Aufrufe zu zivilem Ungehorsam als terroristische Inhalte erfassen und behält die einstündige Sperrfrist bei. Am 17.04.2019 wird im Parlament über die Ausschussfassung abgestimmt. Nach den Wahlen werden sich Kommission, Rat und Parlament in den Trilogverhandlungen um eine Einigung bemühen.

Im Folgenden werden der Entwurf der Kommission und die Änderungsvorschläge des LIBE-Ausschusses kritisch vorgestellt.

Der Kommissionsentwurf

Der Text sieht im Kern drei Instrumente zu Verhinderung der Verbreitung als terroristisch klassifizierter Inhalte vor: die verbindliche Entfernungsanordnung (Artikel 4), unverbindliche Meldungen (Artikel 5) und proaktive Maßnahmen (Artikel 6).

Entfernungsanordnung: Stundenfrist und europaweiter Export von Meinungsfreiheitsbeschränkungen

Artikel 4 normiert die Entfernungsordnung. Eine solche Anordnung kann von den Behörden eines jeden Mitgliedsstaates an Hostingdiensteanbieter gesendet werden. Welche Behörde zuständig ist, können die Staaten nach Artikel 17 festlegen. In der Anordnung muss unter anderem die URL des zu sperrenden Inhalts angegeben sein. Der Anbieter ist dann verpflichtet, den Beitrag binnen einer Stunde EU-weit zu blockieren. Tut er es nicht, kann – jedenfalls bei systematischen Verstößen – ein Bußgeld in Höhe von bis zu 4 % des weltweiten Jahresumsatzes verhängt werden, Artikel 18 Absätze 1 und 4. Eine inhaltliche Prüfung der Anordnung durch die Hostingdiensteanbieter ist nicht vorgesehen, nur wenn ihnen die Ausführung faktisch unmöglich ist, etwa wegen höherer Gewalt oder weil sie offensichtlich fehlerhaft ist, sind sie berechtigt, ihr nicht nachzukommen.

Damit können erhebliche Beschränkungen der Meinungsfreiheit einhergehen. Besonders bemerkenswert ist, dass jeder Mitgliedsstaat befugt sein soll, eine EU-weite Sperrung anzuordnen. Zum Beispiel kann eine polnische Behörde eine Entfernungsanordnung gegen einen Beitrag, der von einem Menschen in Deutschland auf einer in Deutschland ansässigen Plattform hochgeladen wurde, entfernen lassen. Das könnte ein kritischer Post über die polnische Regierung sein. Eine solche Anordnung wäre natürlich rechtswidrig. Die Möglichkeit, sich gerichtlich dagegen zu wehren, soll der Person, die den Inhalt hochgeladen hat, aber in dem Staat zustehen, der die Entfernungsanordnung erlassen hat, also in Polen. Da die EU-Kommission derzeit ein Vertragsverletzungsverfahren gegen Polen wegen Verstößen gegen die Rechtsstaatlichkeit betreibt, ist erkennbar, dass sie selbst davon ausgeht, dass faire Verfahren vor polnischen Gerichten nicht gewährleistet sind.

Solche transnationalen Befugnisse werfen, gerade wenn es um einen hochpolitischen Begriff wie Terrorismus geht, Probleme auf: Etwa die Regierungen von Schweden und Ungarn können durchaus verschiedene Auffassungen darüber haben, ob ein Interview mit Mitgliedern kurdischer oder tschetschenischer Organisationen als Glorifizierung von Terrorismus zu klassifizieren ist, wie Daphne Keller vom Center for Internet and Society an der Stanford Law School erläutert, die einen Export von Meinungsfreiheitsbeschränkungen befürchtet: Werden bestimmte politische Gruppen in einem EU-Staat als terroristisch betrachtet, so können Inhalte, die sich affirmativ zu deren Handlungen verhalten, im gesamten Unionsgebiet blockiert werden. Martin Scheinin, ehemaliger UN-Sonderberichterstatter und Experte für Menschenrechte, spricht gegenüber Spiegel Online von einer „völlig neue[n] Dimension transnationaler Macht“.

Die Entfernungsfrist von nur einer Stunde ist für kleine und mittlere Angebote existenzbedrohend. Sie erfordert von den Hostingdiensten praktisch die Einrichtung eines 24-Stunden-Dienstes, was für kleine und mittlere Plattformen – je nach finanzieller Ausstattung – in der Regel nicht machbar sein wird. Damit wird ihnen der Marktzugang erheblich erschwert, was im Ergebnis den jetzt bereits etablierten großen Angeboten einen Wettbewerbsvorteil verschafft. Darüber hinaus bleibt zu bezweifeln, ob die Behörden überhaupt in der Lage sein werden, eine nennenswerte Anzahl an problematischen Beiträgen binnen kurzer Zeit zu erkennen. Gerade dann, wenn ein Beitrag bereits seit längerer Zeit online war, als die Entfernungsanordnung eingetroffen ist, ist es unverhältnismäßig, dem Hostingdiensteanbieter eine nur einstündige Frist aufzuerlegen.

Meldungen: Umgehung rechtsstaatlicher Garantien

Artikel 5 enthält mit den Meldungen (referrals), eine Rechtsgrundlage für die bisherige Praxis der IRU bei Europol. Die Kernidee ist: nationale Behörden melden einen Inhalt an die jeweilige Plattform mit dem Hinweis, diese möge prüfen, ob ein Verstoß gegen ihre Nutzungsbedingungen vorliege. Der Hostingdienst muss sodann diese Prüfung mitteilen und der Behörde das Ergebnis mitteilen. Er ist nicht zur Entfernung verpflichtet. Zunächst ist nicht klar, weshalb eine Behörde, wenn sie einen Inhalt als terroristisch erkennt, ihn nicht verbindlich entfernen lassen soll, wie Nima Mafi-Gudarzi auf Legal Tribune Online erläutert.

Entfernt ein Hoster einen Inhalt wegen eines Verstoßes gegen seine Nutzungsbedingungen, so findet ein anderer grundrechtlicher Maßstab Anwendung als bei einer bindenden behördlichen Anordnung. Grundsätzlich sind die Plattformen nicht an Grundrechte gebunden und können festlegen, dass bestimmte Beiträge, die von der Meinungsfreiheit gedeckt sind, auf ihren Seiten nicht erscheinen dürfen. Wenn staatliche Akteure, die nur aufgrund einer bestimmten Rechtsgrundlage Inhalte löschen dürfen, den Umweg über eine scheinbare juristische Verantwortung Privater wählen, dann weckt das zumindest den Verdacht, dass sie Entfernungen veranlassen wollen, die jenseits ihrer Befugnisse liegen. Damit könnten auch Behörden in Staaten, in denen ein rechtsstaatliches Verfahren zu erwarten ist, versuchen, Beiträge verschwinden zu lassen, für deren Löschung auf Basis nationalen oder internationalen Rechts keine Grundlage bestünde. Inwiefern die betroffenen Personen, die den Inhalt hochgeladen haben, gegen die Meldung selbst juristisch vorgehen können, ist ungewiss.

Eine mögliche Ratio hinter dieser Norm kann darin liegen, mit der drakonischen Bußgeldandrohung behutsam umzugehen und Plattformen, solange sie sich grundsätzlich kooperativ zeigen, eher Meldungen zuzustellen. Erst im Fall mangelnder Kooperation würde man dann Entfernungsanordnungen erlassen. Damit könnte ein großer Teil der Inhaltssperrungen auf Basis der Kooperation zwischen Behörden und Plattformen bewältigt werden – im Zweifel zu Lasten der Inhalteanbieterinnen und -anbieter, denen die rechtliche Überprüfung erschwert wird.

Das Internet Archive berichtete, von den französischen Behörden bereits 550 falsche Meldungen zur Löschung von Inhalten erhalten zu haben und hat einige besonders offensichtliche Fehlmeldungen veröffentlicht.

Proaktive Maßnahmen: Uploadfilter

Schließlich können Behörden auf Grundlage des Textes von den Hostingsdiensten verlangen, proaktive Maßnahmen zu ergreifen, um die Verfügbarkeit terroristischer Inhalte einzuschränken. Darunter kann man sich insbesondere Uploadfilter, also Algorithmen, die Inhalte erkennen und löschen sollen, vorstellen. Im Einzelfall können die Behörden bestimmen, welche proaktive Maßnahme genau implementiert werden soll, Artikel 6 Absatz 4.

Automatisierte Filter sind nicht in der Lage, den Kontext von Ideen und Äußerungen einzuschätzen und daher massiv fehleranfällig. Die Plattform Youtube, die sie bereits auf freiwilliger Basis einsetzt, sperrte zehntausende Videos, die Kriegsverbrechen des IS dokumentierten, weil in ihnen IS-Flaggen zu sehen waren. Jeder einzelne legale Inhalt, der fehlerhaft gelöscht wird, ist eine unzulässige Verletzung der Meinungsfreiheit. Eine Fehlerquote, die jeder Filter aufweist, ist hier absolut inakzeptabel. Es wird eine Infrastruktur zur Kontrolle bereitgestellt, deren Anwendungsbereichs je nach Interessenlage auch noch stärker auf politisch unerwünschte Inhalte ausgedehnt werden kann, als diese ohnehin schon in der Terrordefinition enthalten sind.

Einige Stimmen in der Rechtswissenschaft sprechen sich dafür aus, eine staatlich angeordnete automatische Vorkontrolle als durch das Grundgesetz verbotene Zensur einzuordnen.

Welche Dienste von den Regeln betroffen sein sollen

Artikel 2 Absatz 1 des Kommissionsentwurfs definiert die Hostingdiensteanbieter, die unter die neuen Regeln fallen sollen: Damit sind Anbieter von „Diensten der Informationsgesellschaft“ gemeint, „die darin bestehen, die durch einen Inhalteanbieter bereitgestellten Informationen im Auftrag des Inhalteanbieters zu speichern und die gespeicherten Informationen Dritten zur Verfügung zu stellen.“ Diese Definition ist extrem weitgehend. Sie umfasst soziale Netzwerke, Blogs und Nachrichtenportale mit Kommentarfunktion, Foren, Videostreamingdienste, File-Sharing, Cloud-Dienste. Nicht erforderlich ist die öffentliche Zugänglichkeit der Inhalte.

Kleinere und mittlere Anbieter, darunter nichtkommerzielle, haben nicht die technischen und personellen Möglichkeiten, Löschungen binnen einer Stunde durchzuführen oder hochkomplexe Filtersysteme einzurichten. Viele wären deshalb gezwungen, ihre Angebote für benutzergenerierten Content einzustellen oder die Ausführung an größere Digitalkonzerne auszulagern. Damit wird einer weiteren Monopolisierung der Internetwirtschaft Vorschub geleistet.

Die Definition terroristischer Inhalte

Was unter terroristischen Inhalten zu verstehen ist, regelt Artikel 2 Absatz 5. Erfasst sind der Aufruf zu, die Befürwortung von oder die Ermutigung zu terroristischen Straftaten und zur Mitwirkung daran, ebenso Informationen, die terroristische Vereinigungen fördern. Schließlich fallen technische Anleitungen oder Methoden für das Begehen terroristischer Straftaten unter den Begriff.

Was terroristische Straftaten sind, legt die von Menschenrechtsorganisationen stark kritisierte RL 2017/541 fest. Dass die Verordnung an diese Richtlinie anknüpft, ist aus mehreren Gründen problematisch:

Erstens handelt es sich bei einer Richtlinie nicht um ein unmittelbar anwendbares Gesetz, sondern um eine Vorgabe dafür, welche Gesetze Mitgliedsstaaten erlassen müssen. Daher ist der Normtext viel zu unpräzise, um eine trennscharfe Subsumtion von Sachverhalten zu ermöglichen. Wie der ehemalige UN-Sonderberichterstatter und Grundrechtsexperte Martin Scheinin darlegt, ist das Anknüpfen an Straftatbestände für eine Bestimmung über Inhaltslöschungen strukturell ungeeignet, denn sie sind dafür konstruiert, in einem Gericht nach einer Beweisaufnahme angewendet zu werden. Sie enthalten insbesondere subjektive Elemente wie Vorsatz und zum Teil spezifische Absichten, die anhand eines bloßen Postings in der Regel nicht feststellbar sind.

Zweitens umfasst die Richtlinie von 2017 Tatbestände, deren Klassifizierung als Terrorismus höchst fragwürdig ist: Genannt ist etwa das Kapern von öffentlichen Verkehrsmitteln mit dem Ziel, öffentliche Stellen oder eine internationale Organisation rechtswidrig zu einem Tun oder Unterlassen zu zwingen. Das kann auch Aktionen zivilen Ungehorsams erfassen.

Besonders schwerwiegend ist der Einschluss von „technische[n] Anleitungen oder Methoden für das Begehen terroristischer Straftaten“. Über solche Methoden berichten regelmäßig Journalisten, NGOs oder Behörden, deren Tätigkeiten definitiv nicht erfasst sein sollten. Aus dieser Bestimmung ergibt sich eine erhebliche Gefährdung der Presse- und Informationsfreiheit.

So haben auch der UN-Sonderberichterstatter für Meinungsfreiheit, David Kaye, der UN-Sonderberichterstatter für Datenschutz, Joseph Cannataci und die UN-Sonderberichterstatterin für den Schutz von Menschenrechten bei Anti-Terror-Maßnahmen, Fionnuala Ní Aoláin, in einem gemeinsamen Bericht harsche Kritik geübt und die europäischen Institutionen daran erinnert, dass auch Inhalte, die den Staat schockieren, angreifen und stören, von der Meinungs- und Informationsfreiheit gedeckt sind und zum demokratischen Diskurs gehören.

Sorgfaltspflichten und AGB-Verpflichtungen

Gemäß Artikel 3 des Entwurfs sollen Plattformen sehr unbestimmte Sorgfaltspflichten auferlegt werden. Konkret ist von „geeignete[n], angemessene[n] und verhältnismäßige[n] Maßnahmen […], um die Verbreitung terroristischer Inhalte zu verhindern […]“ die Rede. Darüber hinaus fordert Artikel 3 Absatz 2, dass die Dienste in ihren Nutzungsbedingungen Bestimmungen zur Verhinderung der Verbreitung terroristischer Inhalte aufnehmen. Ausgehend davon, dass die Definition terroristischer Inhalte vage ist und legale Inhalte erfasst, führt das zu der erstaunlichen Verpflichtung der Hostingdiensteanbieter, Inhalte vertraglich zu verbieten, die derzeit legal sind, wie Joan Barata vom Center for Internet and Society an der Stanford Law School herausstellt.

Die Änderungsvorschläge des Ausschusses für Bürgerliche Freiheiten

Im Ausschuss der Parlaments für bürgerliche Freiheiten wurden deutliche Entschärfungen des Textes vorgeschlagen. Er enthält aber immer noch Elemente, die die freie Meinungsäußerung bedrohen.

Insbesondere bleiben die wettbewerbspolitischen Bedenken im vollen Umfang bestehen, da die einstündige Löschfrist nicht angerührt wurde. Dass nunmehr 12 Stunden vor der ersten Entfernungsanordnung, die eine Plattform von der anordnenden Behörde erhält, gemäß Artikel 4 Absatz 1b eine Unterrichtung des Hostingdienstes über die Verfahrensweise stattfinden muss, nützt wenig, da diese Regelung eben nur für das erste Mal gilt. Von diesem Zeitpunkt an müssen die Dienste damit rechnen, zu jeder Zeit eine Anordnung zu erhalten, die binnen einer Stunde befolgt werden muss.

Ausnahmeregelungen

Nach Artikel 1 soll die Verordnung nicht auf Inhalte Anwendung finden, die journalistischen Zwecken, Bildungszwecken oder der Sensibilisierung für terroristische Aktivitäten dienen. Von letzterem Kriterium werden Uploads von Organisationen wie etwa The Syrian Archive oder Witness umfasst sein, die terroristische Taten dokumentieren. Diese Ausnahmen sind im Prinzip zu begrüßen, es stellt sich aber die Frage, ob sich – gerade auf Plattformen mit benutzergenerierten Inhalten – unter Zeitdruck rasch aus dem Kontext erschließen lässt, ob ein Beitrag etwa journalistische Zwecke verfolgt.

Anwendungsbereich

Der Anwendungsbereich wurde eingegrenzt auf Hostingdienste, die Inhalte der Öffentlichkeit zugänglich machen, Artikel 2 Absatz 1. Das ist zu befürworten, weil zuvor eine Reihe von Diensten miterfasst war, für die die Verordnung gänzlich ungeeignet wäre, etwa interne Unternehmensclouds. Nicht in jedem Fall ist aber klar, ob ein Dienst unter diese Definition fällt oder nicht: Ist etwa eine geschlossene Facebook-Gruppe mit 1000 Mitgliedern öffentlich?

Definition terroristischer Inhalte

In den Bestimmungen nach Artikel 2 Absatz 5 (a) bis (c) darüber, was als terroristischer Inhalt einzuordnen ist, ist nun das Erfordernis enthalten, dass der Inhalt die Gefahr der Begehung einer terroristischen Tat verursacht. Was eine terroristische Tat ist, wird nach wie vor durch Rückgriff auf die Richtlinie 2017/541 festgelegt. Damit bleiben Aufrufe zu Aktionen zivilen Ungehorsams umfasst. Besonders bedenklich sind hingegen die Bestimmungen (d) und (e). Dabei werden einerseits Anleitungen zur Herstellung von explosiven Waffen, schädlichen Substanzen und Ähnlichem umfasst, worunter sich eine Vielzahl wissenschaftlicher Veröffentlichungen aus dem Bereich der Chemie subsumieren lässt. Anderseits sollen Darstellung terroristischer Taten ebenfalls als terroristische Inhalte gelten. Solche Darstellungen können aber dokumentarisch sinnvolle Zwecke verfolgen. Wenn sie unter eine der Ausnahmen aus Artikel 1 fallen, sind sie zwar geschützt. Es wird aber im Einzelfall – gerade bei Uploads von Privatpersonen – oftmals schwerlich anhand des Inhalts zu erkennen sein, ob ein Beitrag hochgeladen wurde, um die Öffentlichkeit für terroristische Taten zu sensibilisieren oder um zu weiteren Taten aufzurufen.

Die zuständige Behörde

Während nach den Vorstellungen der Kommission die Mitgliedstaaten nach Gutdünken entscheiden können sollen, welche Behörde oder Behörden für die Ausführung der Verordnung zuständig sind (Artikel 17 Kommissionsentwurf), legt der LIBE-Entwurf in Artikel 2 Absatz 9a fest, dass pro Mitgliedstaat entweder eine einzelne Justizbehörde oder eine einzelne funktionell unabhängige Verwaltungsbehörde für die Ausführung der Verordnung zuständig sein soll. Das ist ebenfalls als Fortschritt zu werten, weil die Dienste nicht damit konfrontiert sind, Anordnungen von einer Vielzahl von Behörden pro Mitgliedstaat zu empfangen und deren Authentizität überprüfen zu müssen. Wünschenswert wäre allerdings die Verpflichtung, eine unabhängige Behörde mit dieser Aufgabe zu betrauen, um sicherzustellen, dass Regierungen keinen unmittelbaren Einfluss auf ihre Entscheidungen nehmen können.

Verminderung der transnationalen Reichweite

Während der Kommissionsentwurf vorsah, dass Behörden eines jeden Staates Beiträge europaweit mittels einer Entfernungsanordnung blockieren lassen können, wurde diese Möglichkeit erheblich begrenzt: Nunmehr soll ausschließlich die Behörde jenes Staates, in dem die Plattform ihren Hauptsitz hat, zu einer europaweiten Sperrung befugt sein.

Die Behörde eines anderen Staates kann anordnen, dass ein Beitrag auf ihrem Landesgebiet nicht mehr sichtbar sein soll. Damit könnten ungarische Behörden einen Beitrag, der auf einer ausländischen Plattform gespeichert ist, nicht mehr für die gesamte EU, sondern nur noch für Ungarn sperren. Umgesetzt werden könnte das zum Beispiel durch Geoblocking.

Die transnationale Dimension des ursprünglichen Entwurfs wurde damit entschärft. Dennoch können gerade ausländische Plattformen für Oppositionelle in Ländern, in denen die Meinungsfreiheit eingeschränkt ist, wichtige Austauschforen sein, sodass die Kernkritik erhalten bleibt: Es besteht eine erhebliche Gefahr, dass die Entfernungsanordnung verwendet wird, um politisch abweichende Meinungen zu unterdrücken.

Streichung der Meldungen

Für Meldungen zur freiwilligen Löschung enthält der Entwurf nun keine Rechtsgrundlage mehr. Das ist zu begrüßen. Dass solche Meldungen deshalb unterbleiben werden, ist aber nicht gesichert. Wie eingangs erläutert, nutzt Europol dieses Instrument seit mehreren Jahren, ohne dass eine Rechtsgrundlage dafür bestünde. Ob diese Praxis mit höherrangigem Recht übereinstimmt, ist bisher nicht geklärt. In Erwägungsgrund 1b des Entwurfes heißt es, illegalen Inhalten müsse mit einer Mischung aus gesetzlichen und freiwilligen Maßnahmen, basierend auf der Zusammenarbeit von Behörden und Providern, begegnet werden. Vor diesem Hintergrund ist nicht unwahrscheinlich, dass Behörden auch ohne Rechtsgrundlage zunächst unverbindliche Meldungen an die Dienste senden und diese – vor dem Hintergrund, nicht von kurzfristigen Entfernungsanordnungen bedroht werden zu wollen – kooperieren. Inhalteanbieterinnen und -anbieter könnten sich dagegen kaum wehren, weil sie wahrscheinlich allenfalls den Hinweis erhalten werden, dass ihr Beitrag aufgrund eines Verstoßes gegen die Nutzungsbedingungen entfernt wird, jedoch keine weiteren Informationen über eine zugrundeliegende behördliche Meldung.

Aus proaktiven Maßnahmen wurden spezifische Maßnahmen

Zunächst besagt Artikel 6, dass Hostingdienste spezifische Maßnahmen ergreifen können, um ihre Dienste vor terroristischen Inhalten zu schützen. Diese Maßnahmen sollen zielgerichtet sein. Bei der Auswahl sollen die Hostingdienste einerseits das bisherige Vorkommen terroristischer Inhalte auf ihrer Plattform und andererseits die Grundrechte der Nutzerinnen und Nutzer berücksichtigen.

Nach Artikel 6 Absatz 4. kann die Behörde eine Aufforderung, spezifische Maßnahmen zu ergreifen, an den Hostingdienst senden. Dabei soll die technische Umsetzbarkeit sowie die Größe und die ökonomischen Ressourcen des Anbieters berücksichtigt werden. Ausdrücklich heißt es, dass die Behörden keine generellen Überwachungspflichten und keine Verwendung automatisierter Mittel anordnen dürfen. Damit können unter den verpflichtenden spezifischen Maßnahmen im Sinne dieses Entwurfs keine Uploadfilter verstanden werden. Laut Erwägungsgrund 16 soll es sich vielmehr um Berichtspflichten gegenüber den Behörden, den Einsatz von mehr Personal und den Austausch bewährter Verfahren handeln.

Fazit

Trotz einiger Verbesserungen im Entwurf des LIBE-Ausschusses bedroht die geplante Verordnung zur Verhinderung der Verbreitung terroristischer Online-Inhalte Meinungs-, Informations- und Pressefreiheit sowie die Vielfalt der medialen Landschaft des Internets. Gerade in Zeiten, in denen explizit demokratiefeindliche Parteien in Parlamenten in Europa sitzen, sollten Befugnisse, mit denen politische Freiheiten beschränkt werden können, nur sehr sparsam eingeräumt werden.

Es bleibt abzuwarten, welche der vom Ausschuss vorgeschlagenen Änderungen das Parlament am Mittwoch annehmen wird. In der folgenden Legislaturperiode werden Parlament, Rat und Kommission in den Trilogverhandlungen einen Kompromiss erzielen müssen – der wahrscheinlich zwischen den beiden hier vorgestellten Entwürfen liegen wird. Es ist also zu befürchten, dass einige der Verbesserungen aus der Ausschussfassung wieder rückgängig gemacht werden.

Netzpolitischer Abend Spezial: Digitalpolitik der Europäischen Union

Foto: DAVID ILIFF, Bearbeitung: E. N. Lizenz: CC BY 2.0

Der Digitale Gesellschaft e.V. lädt gemeinsam mit ALEX-Berlin zu einer Podiumsdiskussion mit Vertreterinnen und Vertretern verschiedener Parteien.

Hier geht’s ab 19:00 Uhr zum Livestream auf der Website von ALEX Berlin.

Die Digitalisierung ist eine der einschneidensten gesellschaftlichen Veränderungen unserer Zeit. Ob Urheberrechtsreform, Datenschutzgrundverordnung oder Vorratsdatenspeicherung – netzpolitische Themen prägen die Politik der EU entscheidend mit und sind oftmals stark umstritten.  

Vor diesem Hintergrund sollen anlässlich der Wahl zum Europäischen Parlament die netzpolitischen Agenden von CDU, SPD, Bündnis 90/Die Grünen, FDP, der Linken und der Piratenpartei in einer Podiumsdiskussion mit Parteivertreterinnen und Parteivertretern erörtert werden. 

Im Fokus werden dabei zwei Themengebiete stehen:

1. Wie soll der europäische Datenschutz und die Datenökonomie der Zukunft aussehen? Welche Bilanz können wir nach einem Jahr Datenschutzgrundverordnung ziehen? Welche Ziele können mit der e-Privacy-Verordnung erreicht werden?

2. Sollen Online-Plattformen stärker reguliert werden? Urheberrechtsverletzungen, Hate-Speech, Fake News und Terrorismus werfen die Frage auf, ob Plattformen für hochgeladene Inhalte direkt verantwortlich sein sollen. Sind Uploadfilter der richtige Weg? Welche Folgen haben Regulierungsansätze für politische Grundfreiheiten wie die freie Meinungsäußerung?

Mit: Susanne Zels (CDU), Dr. Laura Sophie Dornheim (Grüne), Matthias Ecke (SPD), Juliane Hüttl (FDP), Konstanze Kriese (Linke) und Dr. Patrick Breyer (Piraten). 
Moderation: John Weitzmann (Digitale Gesellschaft e.V.)

Ort und Zeit

16.04.2019, Beginn: 19 Uhr, Einlass ab 18:30

Achtung! 19 Uhr wird die TV-Übertragung beginnen, daher bitten wir alle Interessierten, etwas eher zu erscheinen.

ALEX-Halle, Rudolfstraße 1-9 (Eingang Ecke Ehrenbergstraße), Berlin (Nähe Oberbaumbrücke).

Hashtag

Der Hashtag für diesen Abend ist #NPA_EU, gebraucht ihn gerne und reichlich, auch für Feedback und Fragen, wenn ihr nicht vor Ort sein könnt.

Hinweis

Die Veranstaltung findet in den Räumen unseres Medienpartners ALEX-Berlin statt und wird im Livestream sowie im Fernsehen live übertragen. Mit Betreten des Studios erklären sich Besucherinnen und Besucher damit einverstanden, gefilmt zu werden. Wer unerkannt bleiben möchte, dem wird empfohlen, in den hinteren Reihen Platz zu nehmen. Wir bitten freundlich um Verständnis.

Pressemitteilung: Ausführliche Erläuterungen zum Artikel 13/17 der Urheberrechtsrichtlinie in einem Blogbeitrag

Morgen wird im Parlament der Europäischen Union über die Reform der Urheberrechtsrichtlinie abgestimmt. Am Samstag demonstrierten europaweit mehr als 100 000 Menschen gegen die Reform. Der Protest richtet sich insbesondere gegen den Einsatz automatischer Filtersoftware, den Artikel 13 (nach jüngst geänderter Nummerierung Artikel 17) der Reform nach Einschätzung aller Experten nach sich zieht.

Die netzpolitische Organisation Digitale Gesellschaft e.V. hat am Montag, den 25.03.2019, in einem Blogbeitrag  erläutert, dass die Einrichtung von Uploadfiltern zwingend aus dem Text des Artikel 13/17 folgt und welche Folgen für Freiheitsrechte, Datenschutz, Wettbewerb und die mediale Vielfalt des Internets zu befürchten sind.

Link zum Beitrag: https://digitalegesellschaft.de/2019/03/warum-uploadfilter-in-der-urheberrechtsrichtlinie-verhindert-werden-muessen/

Warum Uploadfilter in der Urheberrechtsrichtlinie verhindert werden müssen

Seit 2013 wird in der Europäischen Union über eine Reform des Urheberrechts verhandelt. Das derzeit geltende Urheberrecht der EU stammt im Wesentlichen aus dem Jahr 2001. Seither hat sich der Umgang mit urheberechtlich geschützten Inhalten im Internet stark verändert. Plattformen, auf denen nutzergenerierte Inhalte verbreitet werden, sind prägend für die digitale Medienlandschaft. Eine Reform des Urheberrechts ist deshalb dringend nötig. Der aktuelle Richtlinienentwurf, der Ergebnis der Trilogverhandlungen ist und über den das Europäische Parlament am Dienstag abstimmen wird, wird den Anforderungen der digitalisierten Welt an das Urheberrecht aber nicht gerecht. Mit der Abkehr vom Providerprivileg wird das Modell der user-generated-content-Plattform grundsätzlich in Frage gestellt. Das Haftungsregime des Entwurfs zieht zwangsläufig die Einrichtung von Algorithmen nach sich, die Inhalte beim Hochladen auf Urheberrechtsverletzungen überprüfen – die umstrittenen Uploadfilter. Diese Instrumente werden die Kunst-, Presse-, Meinungs- und Informationsfreiheit stark beschränken. Sie sind schon aus technischer Sicht ungeeignet, um legale Uploads von illegalen zu unterscheiden. Darüber hinaus wird mit dem Entwurf der weiteren Monopolisierung der Digitalwirtschaft Vorschub geleistet.

Dieser Beitrag erläutert, wie Plattformbetreibende unter dem Regime des Artikel 13 (nach aktueller Nummerierung Artikel 17) für hochgeladene Inhalte haften und welche Probleme sich daraus für Freiheitsrechte, die mediale Vielfalt des Internets und den Wettbewerb zwischen Plattformen ergeben.

Artikel 13 (17): Uploadfilter

Die Abkehr vom Providerprivileg

Bisher gilt in der europäischen Union der Grundsatz, dass Plattformbetreibende nicht für Urheberrechtsverletzungen durch Nutzer haften, es sei denn, sie wurden darauf aufmerksam gemacht, dass ein Inhalte rechtswidrig hochgeladen wurde (Providerprivileg). Geregelt ist dieses Haftungsprinzip in der E-Commerce-Richtline (2000/31/EG). Urheberrechtsverletzungen wird mit dem Notice-and-Take-down-Verfahren begegnet. Das bedeutet: Die Rechteinhaber*in wendet sich an die Plattform und teilt mit, dass ein Inhalt ohne Erlaubnis hochgeladen wurde. Daraufhin sperrt die Plattform den Inhalt. Davon weicht der Entwurf der neuen Urheberrechtsrichtlinie grundlegend ab: Artikel 13 (17) Absatz 3 normiert, dass die Betreibenden grundsätzlich für die Inhalte haften, als hätten sie sie selbst hochgeladen. Das widerspricht dem Prinzip der user-generated-content-Plattform fundamental.

„Nimmt ein Diensteanbieter für das Teilen von Online-Inhalten eine Handlung der öffentlichen Wiedergabe oder der öffentlichen Zugänglichmachung unter den in diesem Artikel festgelegten Bedingungen vor, so findet die Beschränkung der Verantwortlichkeit nach Artikel 14 Absatz 1 der Richtlinie 2000/31/EG auf die in diesem Artikel beschriebenen Situationen keine Anwendung. […]“

Neue Kategorie: Diensteanbieter für das Teilen von Online-Inhalten

Der umstrittene Artikel 13 gilt für „online content sharing service provider“. Artikel 2 Absatz 6 des Entwurfs definiert, was unter diesem Begriff zu verstehen ist:

„6. „Diensteanbieter für das Teilen von Online-Inhalten“ bezeichnet den Anbieter eines Dienstes der Informationsgesellschaft, bei dem der Hauptzweck bzw. einer der Hauptzwecke darin besteht, eine große Menge an von seinen Nutzern hochgeladenen, urheberrechtlich geschützten Werken oder sonstigen Schutzgegenständen zu speichern und der Öffentlichkeit Zugang hierzu zu verschaffen, wobei dieser Anbieter diese Inhalte organisiert und zum Zwecke der Gewinnerzielung bewirbt.

Urheberrechtlich geschützt sind auch die Werke der Nutzer*innen, nicht etwa nur solche anerkannter Künstler*innen, also auch Fotos, Videos, Texte, Audiodateien und andere Inhalte, die von Privatpersonen hergestellt und hochgeladen werden. Das Kriterium grenzt die Provider nur von solchen ab, die gemeinfreie Werke bereitstellen.

Das Kriterium „zum Zwecke der Gewinnerzielung“ kann eine Plattform schneller als im alltäglichen Wortverständnis erfüllen: Eine Vielzahl von Plattformen schalten etwa Werbung, um die Kosten für den Betrieb einzuholen. Wenn dabei regelmäßig geringe Gewinne entstehen, haben die Betreiber*innen bereits zu befürchten, in den Anwendungsbereich zu fallen. Einen Rechtsstreit mit unsicherem Ausgang über diese Frage können sich gerade wenig profitable Plattformen nicht leisten.

Betroffen sein können also Audio- und Video-Sharing-Portale wie Vimeo, Social-Media-Plattformen wie Mastodon oder Foren.

Vom Anwendungsbereich ausgenommen sind nicht gewinnorientierte Online-Enzyklopädien, nicht gewinnorientierte Bildungs- und Wissenschaftsarchive, Plattformen, die der Entwicklung und dem Teilen von Open Source Software dienen, Online-Marktplätze, Business-to-business-Cloud-Dienste und Cloud-Dienste, bei denen Benutzer Inhalte für die eigene Verwendung hochladen können.

Während in der öffentlichen Debatte viel über Youtube gesprochen wird, zeigt die Weite des Anwendungsbereiche, dass eine Vielzahl von Diensten betroffen ist, für die die Vorschriften gänzlich unpraktikabel sind.

Die Verpflichtung zum Lizenzerwerb

Artikel 13 (17) Absatz 1 schafft die neue Verpflichtung, eine Autorisierung der Rechteinhaber einzuholen.

„Die Mitgliedstaaten sehen vor, dass ein Diensteanbieter für das Teilen von Online-Inhalten eine Handlung der öffentlichen Wiedergabe oder eine Handlung der öffentlichen Zugänglichmachung für die Zwecke dieser Richtlinie vornimmt, wenn er der Öffentlichkeit Zugang zu von seinen Nutzern hochgeladenen urheberrechtlich geschützten Werken oder sonstigen Schutzgegenständen verschafft. Ein Diensteanbieter für das Teilen von Online-Inhalten muss deshalb die Erlaubnis von den in Artikel 3 Absatz 1 und 2 der Richtlinie 2001/29/EG genannten Rechteinhabern einholen, etwa durch den Abschluss einer Lizenzvereinbarung, damit er Werke oder sonstige Schutzgegenstände öffentlich wiedergeben oder öffentlich zugänglich machen darf.

Demnach müssen Plattformen sicherstellen, dass so viele Rechteinhaber*innen wie möglich die Veröffentlichung auf der Plattform genehmigen. Sie müssen also proaktiv in Lizenzverhandlungen mit diesen Akteur*innen treten. Praktisch wird das auf Vereinbarungen mit den Verwertungsgesellschaften hinauslaufen. Dieses Konzept mag etwa für die Verbreitung von Musik auf Youtube nicht ungeeignet sein. Beispielsweise erhalten auch Radiosender von der GEMA und der GVL pauschal Lizenzen für das Weltrepertoire. Auf viele Kategorien von Inhalten lässt es sich aber kaum anwenden: So lizenziert keine Verwertungsgesellschaft aktuelle Kinofilme oder das Weltrepertoire an Fotos. Woher sollen Plattformen gar Lizenzen für geleakte Dokumente erhalten?

Alle Anstrengungen: Uploadfilter

Der Begriff „Uploadfilter“ kommt im Text der Verordnung nicht vor. Nachdem im ursprünglichen Entwurf von 2016 noch von „wirksame[n] Inhaltserkennungstechniken“ die Rede war, wurden alle Begrifflichkeiten, die mit Uploadfiltern assoziiert werden können, aus dem Text gestrichen. Die verpflichtende Einführung von Uploadfiltern ergibt sich aber aus den Anforderungen, denen Plattformen genügen müssen, um eine Haftung für Inhalte, für die keine Lizenz vorliegt, auszuschließen:

„(4) Wird die Erlaubnis nicht erteilt, so ist der Diensteanbieter für das Teilen von Online-Inhalten für nicht erlaubte Handlungen der öffentlichen Wiedergabe, einschließlich der öffentlichen Zugänglichmachung, urheberrechtlich geschützter Werke oder sonstiger Schutzgegenstände verantwortlich, es sei denn, der Anbieter dieser Dienste erbringt den Nachweis, dass er

a) alle Anstrengungen unternommen hat, um die Erlaubnis einzuholen; und

b) nach Maßgabe hoher branchenüblicher Standards für die berufliche Sorgfalt alle Anstrengungen unternommen hat, um sicherzustellen, dass bestimmte Werke und sonstige Schutzgegenstände, zu denen die Rechteinhaber den Anbietern dieser Dienste einschlägige und notwendige Informationen bereitgestellt haben, nicht verfügbar sind; und in jedem Fall

c) nach Erhalt eines hinreichend begründeten Hinweises von den Rechteinhabern unverzüglich gehandelt hat, um den Zugang zu den entsprechenden Werken oder sonstigen Schutzgegenständen zu sperren bzw. die entsprechenden Werke oder sonstigen Schutzgegenstände von seinen Internetseiten zu entfernen, und alle Anstrengungen unternommen hat, um gemäß Buchstabe b das künftige Hochladen dieser Werke oder sonstigen Schutzgegenstände zu verhindern.“

Wird ein Inhalt hochgeladen, für den keine Autorisierung des Rechteinhabers vorliegt, so kann die Plattform der Haftung entgehen, wenn sie diesen drei Anforderungen genüge getan hat. Insbesondere muss sie alle Anstrengungen unternehmen, um sicherzustellen, dass bestimmte Werke, die zuvor mit Erkennungsinformationen vom Rechteinhaber gemeldet wurden, nicht verfügbar sind. Die drei Voraussetzungen müssen kumulativ erfüllt werden, das heißt, wenn auch nur eine davon nicht vorliegt, haftet die Plattform für die Urheberrechtsverletzung.

Sonderregelungen gelten für Provider, die seit weniger als drei Jahren in der Union Dienste anbieten, deren Jahresumsatz gleichzeitig unter zehn Millionen Euro liegt und die im vergangenen Jahr weniger als fünf Millionen Besucher im Monat hatten. Sie müssen den Anforderungen unter (b) nicht genügen.

Auf Youtube werden pro Minute 450 Stunden Videomaterial hochgeladen. Aus technischer Sicht kann unter „alle Anstrengungen“ deshalb nichts anderes zu verstehen sein als die Einrichtung automatischer Filtersysteme, die urheberrechtlich geschützte Inhalte erkennen und blockieren sollen. Solche Filter werden heute bereits von einigen Plattformen angewendet, ohne dass eine gesetzliche Verpflichtung bestünde. Der bekannteste ist Content-ID von Youtube. Wer sicherstellen möchte, dass seine urheberrechtlich geschützten Werke nicht von Unbefugten über diese Plattformen verbreitet werden, kann Erkennungsinformationen (Fingerprints) zur Überprüfung an Youtube melden. Diese werden dann mit den Fingerprints der hochgeladenen Werke abgeglichen. In der Praxis wird aufwendig entwickelte, „intelligente“ Software verwendet, die mit neuronalen Netzen (deep learning) arbeitet, um Inhalte wiederzuerkennen.

Die Verpflichtung zur Verwendung einer solchen Technologie bringt eine Vielzahl von Problemen mit sich:

1. Uploadfilter bedrohen Freiheitsrechte

Automatische Filtersysteme können nicht entscheiden, wann eine Urheberrechtsverletzung vorliegt. Sie können nicht sicher beurteilen, ob ein Inhalt überhaupt ein menschliches Werk ist. So wurde bereits Katzenschnurren von Filtern mit geschützter Musik verwechselt. Parodien werden nicht als Weiterverarbeitungen erkannt und als Beifang blockiert. Gleiches gilt für erlaubte Zitate. Zwar statuiert Absatz 7, dass die Möglichkeiten der hochladenden Nutzer*innen zu Zitaten, Kritik, Rezensionen, Karikaturen, Parodien und Persiflagen erhalten bleiben sollen:

„(7) Die Zusammenarbeit zwischen den Diensteanbietern für das Teilen von Online-Inhalten und den Rechteinhabern darf nicht bewirken, dass von Nutzern hochgeladene Werke oder sonstige Schutzgegenstände, bei denen kein Verstoß gegen das Urheberrecht oder verwandte Schutzrechte vorliegt, nicht verfügbar sind, und zwar auch dann, wenn die Nutzung eines Werkes oder sonstigen Schutzgegenstandes im Rahmen einer Ausnahme oder Beschränkung erlaubt ist. Die Mitgliedstaaten stellen sicher, dass sich alle Nutzer, die nutzergenerierte Inhalte auf Diensten für das Teilen von Online-Inhalten hochladen oder auf Diensten für das Teilen von Online-Inhalten zugänglich machen, in jedem Mitgliedstaat auf die jede der folgenden Ausnahmen oder Beschränkungen stützen können:

a) Zitate, Kritik und Rezensionen;

b) Nutzung zum Zwecke von Karikaturen, Parodien oder Pastiches.

Technische Möglichkeiten, Urheberrechtsverletzungen zuversichtlich von solchen Werken abzugrenzen, existieren aber nicht. Julia Reda, Abgeordnete im Europäischen Parlament für die Piratenpartei, hat in ihrem Blog eine Sammlung fehlerhafter Filterungen zusammen gestellt. Beispielweise wurde ein Video einer urheberrechtlichen Vorlesung der Harvard Law School blockiert, in der legitimerweise zu Anschauungszwecken kurze Songausschnitte verwendet wurden. Gerade medienkritische Onlineformate arbeiten häufig mit entlarvenden Sendungsausschnitten, wie das Beispiel einer Montage des Blogs Kobuk zeigt. Solche Beiträge werden über Plattformen kaum noch zu verbreiten sein. Immer wieder werden rechtmäßig hochgeladene Aufnahmen von Musikstücken, deren Autoren schon mehr als 70 Jahre verstorben sind, – nach dieser Zeit erlischt das Urheberrecht – gesperrt. Dazu kann es kommen, wenn etwa ein Label eine bestimmte Aufnahme als urheberrechtlich geschützt gemeldet hat und der Uploadfilter nicht zwischen unterschiedlichen Aufnahmen desselben Musikstücks von verschiedenen Interpreten unterscheiden kann. Wie Martin Kretschmer, Professor für Urheberrecht an der Universität Glasgow erläutert, kann mit den Filtern auch der Upload von kompromittierenden Dokumenten, an denen ein öffentliches Interesse besteht, vom Urheber verhindert werden.

Nun könnte man meinen, in Fällen, in denen der Filter einen Inhalt fehlerhaft blockiert, könnten die wahren Rechteinhaber sich rasch mit einer Beschwerde an die Plattformbetreiber wenden und ihren Inhalt ohne Verluste wieder sichtbar machen. Dieses Argument lässt aber die Logik viraler Verbreitung außer Acht, wie ein Fall der Organisation Pinkstinks, die sich gegen Sexismus und Homophobie einsetzt, deutlich macht: Sie hatten via Youtube das von ihnen gedrehte Video „Not Heidi‘s Girl“ verbreitet, das sich kritisch mit der Fernsehsendung Germany‘s Next Topmodel auseinandersetzt. Nachdem das Video bei RTL im Frühstücksfernsehen lief, legte RTL diese Ausstrahlung bei Youtube als urheberrechtlich geschütztes Material vor, woraufhin Youtube den ursprünglichen Clip von Pinkstinks – die ja die tatsächlichen Urheber*innen waren – wegen Urheberrechtsverletzung blockte. Zwar aktivierte Youtube das Video auf Beschwerde von Pinkstinks wieder – die 700 000 Klicks, die das Video zuvor aufwies und die es vielleicht ermöglicht hätten, ein Millionenpublikum zu erreichen, waren jedoch verloren. Eine Entschädigung für die durch RTLs missbräuchliche Meldung entgangene Aufmerksamkeit hat die Gruppe nicht erhalten. Während in diesem Fall die tatsächliche Urheberschaft nicht strittig war, kann es mitunter für die Uploader*in auch recht problematisch sein, der Plattform glaubhaft zu machen, dass sie zur Verbreitung eines Inhalts berechtigt ist.

Meinungs-, Presse-, Kunst- und Informationsfreiheit sind dadurch stark bedroht: Da im Falle einer Urheberrechtsverletzung das Risiko einer Klage über den Plattformen schwebt, sie hingegen für den Fall, dass Inhalte fälschlich gelöscht werden, keine Konsequenzen zu befürchten haben, ist zu erwarten, dass es zu massivem Overblocking kommt. Das meint, dass die Plattformen aus Vorsicht deutlich mehr Inhalte blockieren als eigentlich nötig. Gerade kleinere Anbieter fürchten Rechtsstreitigkeiten und können es sich kaum leisten, es darauf ankommen zu lassen.

2. Artikel 13 schadet Wettbewerb und Datenschutz

Die Einrichtung von Uploadfiltern ist technisch sehr anspruchsvoll. Youtube hat nach eigenen Angaben 100 Millionen US-Dollar in Content-ID, den leistungsfähigsten Uploadfilter der Welt, investiert. Kleinere und mittlere Plattformen können einen solchen Aufwand nicht betreiben und müssten diese Leistung wahrscheinlich von Youtube einkaufen. Das stärkt die Marktposition der ohnehin schon monopolähnlichen Plattformen weiter und stellt daher auch unter wettbewerbspolitischen Gesichtspunkten ein Problem dar. Viele Plattformen warnen derzeit davor, dass sie sich unter dem Regime von Artikel 13 gezwungen sähen, ihren Betrieb einzustellen, so etwa die Initiative Foren gegen Uploadfilter.

Daraus folgt auch ein wesentliches Datenschutzproblem, auf das der Bundesbeauftragte für den Datenschutz und die Informationsfreiheit, Ulrich Kelber, in einer Presssemitteilung hingewiesen hat: Würde eine Vielzahl von Plattformen die Inhaltsfilterung – so wie es heute schon bei Analysetools gehandhabt wird – an Oligopol-Konzerne auslagern, so würden auch all diese Werkinformationen, möglicherweise mit Daten, die Rückschlüsse auf die hochladende Person zulassen, dort konzentriert werden. Es könnte dann ein guter Teil des ganzen Internettraffics auch über diese Konzerne laufen.

Die Beurteilung, wann eine Urheberrechtsverletzung vorliegt und wann nicht, sollte nicht von Privaten und schon gar nicht von Oligopolen getroffen werden. Auch wenn die Plattformen sich derzeit gegen diese Kontrollverpflichtung wehren, sollte nicht außer Acht gelassen werden, dass ihnen damit eine nicht unerhebliche Machtposition übertragen wird. Die Entscheidungen der Plattformen und der Algorithmen sind nur sehr schwer nachzuvollziehen. Eine demokratische oder juristische Kontrolle der Filter, etwa darauf hin, ob sie diskriminierende Wirkungen entfalten, ist kaum möglich.

3. Eine Zensur findet nicht statt? Vereinbarkeit mit Art. 5 GG

Unter Rechtswissenschaftler*innen ist umstritten, ob staatlich angeordnete Uploadfilter unter den Begriff der Zensur fallen. In Artikel 5 Absatz 1 Satz 2 des Grundgesetzes heißt es „Eine Zensur findet nicht statt.“ Es handelt sich um eine absolute Eingriffsschranke: Während Grundrechte grundsätzlich eingeschränkt werden dürfen, wenn ein legitimer Zweck vorliegt und der Eingriff verhältnismäßig ist, ist eine Zensur immer unverhältnismäßig und damit verfassungswidrig. Was aber ist unter Zensur zu verstehen?

Umfasst ist nur die Vorzensur, das heißt, dass Meinungsäußerungen nur nach vorheriger behördlicher Kontrolle zugelassen werden (Starck, in: Mangoldt/Klein/Starck, Grundgesetz, 5. Auflage 2005. Art. 5 Rn. 170). Grundrechte sind als Abwehrrechte der Bürger*innen gegen den Staat konzipiert. Deshalb wird unter Zensur zunächst die staatliche Kontrolle von Informationen vor deren Publikation verstanden. Mit Artikel 13 würde zwar eine solche Vorkontrolle vorgenommen werden, jedoch nicht von hoheitlichen Stellen selbst, sondern durch Private. Daher meint ein Teil der juristischen Literatur, dass eine solche Filterpflicht keine Zensur sei.

Andererseits wird argumentiert, dass von Privaten unterhaltene Plattformen sich zu bedeutsamen Foren der öffentlichen Meinungsbildung entwickelt haben, weswegen das Zensurverbot grundsätzlich an das veränderte Publikationswesen anzupassen sei (Grabenwarter, in: Maunz/Dürig, Grundgesetzkommentar, 84. EL August 2018, Art. 5 Rn. 119). Wenn Anbieter durch Haftungsregeln zu einzelanlassunabhängigen systematischen Kontrollen und Sperrungen verpflichtet werden, dann käme dies einer Zensur gleich.

Es ist wichtig, sich den Zweck des absoluten Zensurverbots vor Augen zu führen: Das Grundgesetz will jede Möglichkeit zur umfassenden planmäßigen Kontrolle der Kommunikationsinhalte ausschließen. Mögliche Meinungslenkung, eine Lähmung politischen Denkens und voreilendes Anpassungsverhalten der kommunizierenden Bürger*innen sollen ausgeschlossen werden. Meinungslenkung durch Zensur hat sich in der Vergangenheit den technischen Möglichkeiten der Kommunikationsprozesse angepasst: Während etwa die Katholische Kirche bis zur Erfindung des Buchdrucks Nachzensur als ausreichend empfand, führte sie mit Beginn der massenhaften Verbreitung von Druckerzeugnissen die Vorzensur ein (Hoffmann-Riem, in: Kommentar zum Grundgesetz für die Bundesrepublik Deutschland, 3. Auflage 2001, Art 5 Rn. 78). Daran ist abzulesen, dass auch der Zensurbegriff technischen und gesellschaftlichen Veränderungen angepasst werden sollte: Nutzergenerierten Inhalten auf zum Teil monopolartigen Plattformen kommt mittlerweile entscheidende Bedeutung für die Meinungsbildung zu. Der Staat selbst entscheidet zwar nicht im Einzelnen über die Zulässigkeit von Inhalten, ordnet aber die Filterpflicht an. Sind die Filtereinrichtungen einmal geschaffen, so ist – je nach Interessenlage – auch der Kooperation von Plattformbetreibenden mit staatlichen Versuchen, politische unliebsame Beiträge zu unterdrücken, Tür und Tor geöffnet. Dies alles spricht dafür, den Zensurbegriff auf die staatliche Verpflichtung zur anlassunabhängigen Kontrolle sämtlicher Plattforminhalte auszuweiten.

Exkurs: Uploadfilter und Terror Content

Uploadfilter sollen nicht nicht nur den Urheberrechtsschutz stärken, sondern werden auch für einen weitere Anwendungsbereiche diskutiert: Terroristische Online-Inhalte. Die Vorstellung, Terrorpropaganda automatisch löschen oder blockieren zu können, klingt zunächst verlockend. Hier zeigt sich aber ganz besonders die Unfähigkeit der Filtersysteme: Die Plattform Youtube, die sie bereits auf freiwilliger Basis einsetzt, sperrte zehntausende Videos, die Kriegsverbrechen des IS dokumentierten, weil in ihnen IS-Flaggen zu sehen waren.

Nachdem die Innenminister Frankreichs und Deutschlands die EU-Kommission im letzten Jahr aufgefordert hatte, verstärkt gegen Terror-Propaganda im Internet vorzugehen, legte die Kommission im September einen Verordnungsentwurf vor. Mit der Verordnung zur Verhinderung der Verbreitung terroristischer Online-Inhalte sollen alle Dienste, die Inhalte von Personen hochladen lassen und sie speichern, um sie Dritten zur Verfügung zu stellen, auf behördliche Anordnung Inhalte binnen einer Stunde löschen. Davon umfasst ist nach dem Kommissionsentwurf jeder Blog mit Kommentarfunktion. Als „terroristisch“ bezeichnet der Entwurf mit der Formulierung „technische Anleitungen oder Methoden für das Begehen terroristischer Straftaten“ auch Berichterstattung von Journalist*innen oder Menschenrechtsorganisationen. Ebenfalls betroffen wäre ein Aufruf zum „Kapern von Luft- und Wasserfahrzeugen oder von anderen öffentlichen Verkehrsmitteln oder Gütertransportmitteln mit dem Ziel, öffentliche Stellen oder eine internationale Organisation rechtswidrig zu einem Tun oder Unterlassen zu zwingen“ – damit könnten in Zukunft auch Aufrufe zu zivilem Ungehorsam entfernt werden. Die breite Definition wurde unter anderem in einem gemeinsamen Bericht des UN-Sonderberichterstatters für Meinungsfreiheit, des UN-Sonderberichterstatters für das Recht auf Privatheit und der UN-Sonderberichterstatterin für den Grundrechtsschutz im Anti-Terror-Kampf scharf kritisiert. Sie erinnern die EU-Institutionen sogar daran, dass auch Inhalte, die den Staat angreifen, schockieren oder stören, vom Recht auf freie Meinungsäußerung umfasst sind:

„The Special Rapporteurs wish to emphasize that the right to freedom of expression extends‘not only to “information” or “ideas”that are favourably received or regarded as inoffensive or as a matter of indifference, but also to those thatoffend, shock or disturbthe State or any sector of the population. Such are the demands of that pluralism, tolerance and broadmindedness without which there is no “democratic society”“.

Neben der Entfernungsanordnung sollen nationale Behörden auch die Möglichkeit haben, Plattformen zur Einrichtung von Uploadfiltern zu verpflichten. Die Verordnung enthält eine ganze Reihe von Ansatzpunkten, die von nationalen Behörden zur Unterdrückung politisch missliebiger Inhalte verwendet werden können. Ganz besonders mangelt es an adäquaten Rechtsschutzmöglichkeiten für die Personen, deren hochgeladener Inhalt blockiert werden soll. So könnte etwa eine polnische Behörde einen Beitrag sperren lassen, der von Deutschland aus auf eine Plattform gestellt wurde. Wollte die hochladende Person sich juristisch dagegen wehren, so müsste sie vor einem polnischen Gericht gegen die Entfernungsanordnung klagen.

Alternativen für die bessere Entlohnung von Kreativen

Es gibt verschiedene Ansätze zur Gewährleistung der gerechten Entlohnung von Kreativen im digitalen Zeitalter. Das Max-Planck-Institut für Innovation und Wettbewerb hat das Modell der erleichterten Lizenzierung vorgeschlagen: Damit ist gemeint, dass – ähnlich wie in Deutschland bei der Privatkopie – die Verbreitung geschützter Inhalte im Internet für nichtkommerzielle Zwecke grundsätzlich erlaubt wird. Im Gegenzug sollen Plattformen eine Vergütung entrichten, die über Verwertungsgesellschaften an die Urheber*innen verteilt wird. Ergänzend soll das Notice-and-take-down-Verfahren harmonisiert und durch ein sogenanntes Counter-notice-Verfahren, das es der hochladenden Person erlaubt, auf die Meldung des Rechteinhabers mit einer Gegendarstellung zu reagieren, ergänzt werden. Ein weiterer Bestandteil ist die Vereinfachung der transeuropäischen Lizenzierungsmechanismen.

Dem ähnelt der Vorschlag der Kulturflatrate. Das meint einen Pauschalbeitrag, der von Internetnutzer*innen entrichtet und an Künstlerinnen verteilt werden soll. Im Gegenzug könnte das Kopieren und die Weitergabe von Werken legalisiert werden.

Uploadfilter sind keineswegs geeignet, einen gerechten Interessenaustausch für die Verbreitung und die Entlohnung von Immaterialgütern im Netz zu schaffen. Notwendig sind sie dafür schon gar nicht.

Zivilgesellschaft und Digitalverbände warnen: Durchdrücken der Urheberrechtsreform inklusive Uploadfilter ist der falsche Weg!

Gemeinsam mit weiteren Organisationen fordern wir in einem offenen Brief Gehör für die Bedenken und Proteste gegen Artikel 13.

06. März 2019

Sehr geehrter Herr Weber MEP,

Sehr geehrter Herr Bullmann MEP,

Sehr geehrter Herr Verhofstadt MEP,

Sehr geehrte Frau Keller MEP,

Sehr geehrte Frau Zimmer MEP,

die von der EVP-Fraktion beantragte mögliche Vorverlegung der Plenarabstimmung sehen wir als äußerst schädlich für das Anliegen einer ausbalancierten Netzregulierung an. Gerade in der Außenwirkung und mit Blick auf das massiv gestiegene Interesse vieler junger Europäerinnen und Europäer würde das ein verheerendes Bild abgeben.

Die Diskussion um die Regelungen in Artikel 13 des Richtlinienentwurfs wird mit großer Energie geführt. Eine Verschiebung der Entscheidung auf einen Zeitpunkt nach der Europawahl und mögliche Anpassungen in einer neuen Verhandlungsrunde könnten das Scheitern einer an sich notwendigen Reform verhindern, an der so viele Akteure lange und intensiv mitgewirkt haben. Bei der Abwägung von Grundrechten und Entscheidungen zu hoch komplizierten und polarisierenden Themen ist es für den demokratischen Prozess wichtig, dass alle Akteure hinreichend gehört werden. Eine Vorverlegung würde diesen Prozess untergraben.

Wir Unterzeichnende, Vertreterinnen und Vertreter der Zivilgesellschaft, der Wirtschaft und der Internetkultur, bitten Sie aufgrund der aktuellen Entwicklungen erneut, die faktisch verpflichtende Einführung von Upload-Filtern zu verhindern.

Artikel 13 ist zum Mühlstein um den Hals der dringend notwendigen Aktualisierung des europäischen Urheberrechts geworden. Sollte die Betreiberhaftung in der geplanten Form ausgeweitet werden, werden klare Anreize gesetzt, um auch solche Inhalte zu blockieren, die rechtmäßig eingestellt wurden (Overblocking). Die Plattformen werden versuchen, ihr Haftungsrisiko zu minimieren und nur noch ihnen bekannte und geprüfte Inhalte erlauben. Wirksame Maßnahmen, die rechtmäßig eingestellte Inhalte unmittelbar vor entsprechender Blockung schützen, sind im aktuellen Text nicht vorgesehen. Die vorgesehenen Widerspruchslösungen begegnen dem nur unzureichend. Eine der Erfolgsformeln des Internets, das Teilen von Informationen und Inhalten, ist damit in Gefahr.

Wir fordern Sie daher im Namen der Nutzerinnen und Nutzer, aber auch der Kreativen auf, die Entscheidung nicht vorzuverlegen, besser sogar zu verschieben, um nachhaltigen Schaden am Bild der europäischen Gesetzgebung insbesondere bei jungen Leuten zu verhindern. Die Parlamentarierinnen und Parlamentarier brauchen gerade jetzt Zeit, um das Für und Wider abzuwägen.

Mit freundlichen Grüßen

Wikimedia Deutschland – Gesellschaft zur Förderung Freien Wissens e.V.

Verbraucherzentrale Bundesverband e.V.

Bundesverband Deutsche Startups e. V.

Bundesverband IT-Mittelstand e. V.

Bundesverband Digitale Wirtschaft (BVDW) e. V.

Deutscher Gründerverband e. V.

eco – Verband der Internetwirtschaft e. V.

D64 – Zentrum für digitalen Fortschritt e. V.

LOAD e.V. – Verein für liberale Netzpolitik

Digitale Gesellschaft e. V.

Open Knowledge Foundation Deutschland e. V.

Gesellschaft Katholischer Publizisten Deutschlands e. V.

Jugendpresse Deutschland e. V.

Deutscher Bundesjugendring e. V.

Protest gegen Uploadfilter und EU-Urheberrechtsreform am 2. März in Berlin

Das Bündnis „Berlin gegen 13“ ruft am Samstag, den 2. März um 13 Uhr zu einer Demonstration gegen die EU-Urheberrechtsreform in Berlin auf. Die Demonstration startet am Axel-Springer-Hochhaus (Rudi-Dutschke-Straße/Lindenstraße), geht am Justizministerium vorbei und endet an der Vertretung der Europäischen Kommission in der Nähe des Brandenburger Tores.

Die EU-Urheberrechtsreform läuft mit Artikel 13 darauf hinaus, dass Plattformen eine automatisierte Inhaltskontrolle einführen müssen. Diese Uploadfilter werden massive Auswirkungen auf die Meinungsfreiheit und die Vielfalt des Internets haben. Automatisierte Filter sind nicht in der Lage, den Kontext von Inhalten einzuschätzen und daher sehr fehleranfällig. Sie können nicht zwischen Urheberrechtsverletzungen und schöpferischen Adaptionen unterscheiden. Kleinere Plattformen haben nicht die nötigen Ressourcen, um selbst aufwändige Filtermechanismen zu entwickeln und müssten die Technologie bei den großen Anbietern einkaufen, was deren Marktmacht weiter stärken würde.

Die juristisch anspruchsvolle Entscheidung über die Zulässigkeit von Meinungsäußerungen und darüber, welche Inhalte tatsächlich Urheberrechte verletzen, wird samt der Rechtsdurchsetzung auf private Anbieter übertragen. Wegen des Haftungsrisikos werden die Anbieter im Zweifel zu viele Inhalte blockieren. Eine demokratische Kontrolle der Filtermechanismen ist nicht vorgesehen.

Darüber hinaus können solche Uploadfilter jederzeit auch für eine absichtliche Aussortierung missliebiger Meinungen genutzt werden. Die Einführung einer automatisierten Inhaltskontrolle auf vielen Internetplattformen und Apps legt den technischen Grundstein für eine mögliche Zensur- und Kontrollinfrastruktur. Und sie hilft dabei noch nicht einmal den Urheberinnen und Urhebern, eine faire Entlohnung zu bekommen.

Das Bündnis fordert die Abgeordneten des Europaparlamentes auf, die EU-Urheberrechtsreform in der jetzigen Fassung abzulehnen.


Das Bündnis „Berlin gegen 13“ wird getragen vom Chaos Computer Club, der Digitalen Gesellschaft, dem Journalistenverband Freischreiber und dem Frauen-Hackerspace Heart of Code. Das Bündnis wird von weiteren Organisationen unterstützt.

Mehr Informationen zum Bündnis: https://berlingegen13.wordpress.com
Ansprechpartner: berlingegen13@heartofcode.org

Pledge2019.eu: Urheberrechtsreform wahlentscheidendes Thema zur Europawahl – Zivilgesellschaftliche Organisationen rufen BürgerInnen europaweit auf, ihre Abgeordneten anzurufen.

Millionen Europäer*innen sind entzürnt über die katastrophalen Auswirkungen der Urheberrechtsreform, die noch kurz vor der Europawahl durchgewunken werden soll. Gemeinsam mit Partnerorganisationen aus ganz Europa, unter anderem mit der netzpolitischen Organisation Digitale Gesellschaft, startet die Grundrechtsorganisation epicenter.works nun die Kampagne Pledge2019.eu [1] und ruft die Internetnutzer*innen dazu auf, ihre gewählten Vertreter*innen im Europäischen Parlament anzurufen. Die Message ist klar: Wir wählen nur die PolitikerInnen wieder, die gegen die Urheberrechtsreform stimmen.

Auf der Kampagnenplattform Pledge2019.eu haben Internetnutzer*innen aus ganz Europa die Möglichkeit, ihre Abgeordneten kostenfrei anzurufen und sie um das Versprechen zu bitten, gegen Uploadfilter zu stimmen. „Mit einer der größten Petitionen aller Zeiten und annähernd 5 Millionen Unterschriften [2] ist schon jetzt klar, dass Uploadfilter den EuropäerInnen ein wichtiges Thema sind. Gemeinsam können wir jetzt verhindern, dass dieses katastrophale Gesetz noch kurz vor der Wahl durchgewunken wird“, so Bernhard Hayden, Sprecher der digitalen Grundrechtsorganisation epicenter.works. „Da einige EU-Abgeordnete junge Menschen, die dagegen aufstehen, als ‚Mob‘ und ‚Bots‘ bezeichnen, ermöglichen wir den WählerInnen direkt mit ihren gewählten VertreterInnen zu sprechen und damit klarzustellen, dass die großen Bedenken gegen die EU-Urheberrechtsreform aus der breiten Bevölkerung kommen.“

Zur Erinnerung: Vor wenigen Tagen wurden die Verhandlungen zwischen dem Europäischen Parlament und den Vertreter*innen der Mitgliedsstaaten zur Urheberrechtsreform abgeschlossen. Weiterhin ist der umstrittene Artikel 13 im Vorschlag inkludiert. Er wird Internetplattformen dazu verpflichten, Uploadfilter einzusetzen, um alle hochgeladenen Inhalte vorab auf ihre Legalität zu prüfen.

„Uploadfilter sind ein direkter Angriff auf unsere Meinungsfreiheit und verhindern effektiv eine vielfältige Kulturlandschaft im Internet“, erklärt Hayden

„Kleinere und mittlere Plattformen können die komplexem Filteralgorithmen nicht selbst entwickeln und müssten diese Leistung von größeren Betreibern wie Youtube (Google) einkaufen. Das stärkt die Marktposition der ohnehin schon monopolähnlichen Plattformen weiter“, so Elisabeth Niekrenz, politische Referentin der Digitalen Gesellschaft.

Als nächster Schritt wird der verhandelte Text kurz vor der Europawahl im Plenum des Europäischen Parlaments von allen 751 Mitgliedern aus 28 Ländern abgestimmt. „Die Urheberrechtsreform wird bei dieser Wahl ein entscheidendes Thema sein“, ist sich Hayden sicher.

[1] Link zur Kampagnenwebsite: https://pledge2019.eu
[2] Link zur Online-Petition: https://www.change.org/p/european-parliament-stop-the-censorship-machinery-save-the-internet

Offener Brief an deutsche Abgeordnete im LIBE-Ausschuss

Sehr geehrte Abgeordnete,

wir möchten Ihnen unsere tiefgreifende Besorgnis über den Entwurf der EU-Kommission für eine Verordnung zur Verhinderung der Verbreitung terroristischer Online-Inhalte mitteilen. Der ausufernde Anwendungsbereich, die unsachgemäße Definition terroristischer Inhalte, technisch höchst zweifelhafte automatische Zensurmechanismen und die mit der Übertragung der Rechtsdurchsetzung an Dritte verbundene Einschränkung des Rechtswegs stellen eine ernsthafte Bedrohung für Meinungsfreiheit, Informationsfreiheit, Vertraulichkeit der Kommunikation und die Vielfalt der medialen Landschaft des Internets dar.

Ziel terroristischer Handlungen ist, durch die Verbreitung von Schrecken das Vertrauen in die offene Gesellschaft zu zerstören und so Meinungsfreiheit und Demokratie aufzuweichen.

Umso dringender ist es nötig, demokratische Grundrechte aufrechtzuerhalten.

Wir, die unterzeichnenden Organisationen, bitten Sie, die Verabschiedung dieses Entwurfes zu verhindern.

1. Anwendungsbereich

Der extrem weite Anwendungsbereich des Verordnungsentwurfs erfasst nicht etwa nur große soziale Netzwerke, sondern auch eine Vielzahl kleiner Websites, etwa alle Blogs und Nachrichtenportale mit Kommentarfunktion, Foren, Videostreamingdienste, File-Sharing- und auch der Öffentlichkeit nicht zugängliche Cloud-Dienste. Kleinere Anbieter und vor allem nichtkommerzielle Dienste haben nicht die technischen und personellen Möglichkeiten, Löschungen binnen einer Stunde durchzuführen oder hochkomplexe Filtersysteme einzurichten. Viele wären deshalb gezwungen, ihre Angebote für benutzergenerierten Content einzustellen oder die Ausführung an größere Digitalkonzerne auszulagern. Das würde das weitere Anwachsen von monopol-ähnlichen Unternehmen fördern und sich stark bremsend auf die Entwicklung der Digitalwirtschaft sowie auf nichtkommerzielle Angebote auswirken.

2. Definition terroristischer Inhalte

Die Definition terroristischer Inhalte in Art. 2 greift auf die von Menschenrechtsorganisationen stark kritisierte RL 2017/541 zurück, mit der EU-weite Vorgaben für Terror-Straftatbestände eingeführt wurden. Von ihr können auch Formen zivilen Ungehorsams, zum Beispiel Blockadeaktionen, erfasst sein. Der Verordnungsentwurf vermindert die Anforderungen noch stärker, indem er auf jeden Vorsatz verzichtet und etwa „Methoden für das Begehen terroristischer Straftaten“ als terroristischen Inhalt qualifiziert. Dadurch können auch journalistische Aktivitäten oder solche von Menschenrechtsorganisationen betroffen sein, die sich mit dem Thema Terrorismus beschäftigen. Bemerkenswerter Weise halten der UN-Sonderberichterstatter für Meinungsfreiheit, der UN-Sonderberichterstatter für das Recht auf Privatheit und die UN-Sonderberichterstatterin für den Grundrechtsschutz im Anti-Terror-Kampf es für nötig, die EU-Organe darauf hinzuweisen, dass auch Inhalte, die den Staat schockieren, angreifen und stören, von der Meinungs- und Informationsfreiheit gedeckt sind und zum demokratischen Diskurs gehören.

3. Proaktive Maßnahmen

Nach Art. 6 könnten Anbieter von Hosting-Diensten dazu verpflichtet werden, Uploadfilter zu implementieren, die bereits das Hochladen von als terroristisch erkannten Inhalten verhindern. Wenn Plattformbetreiber durch den Staat beauftragt werden, Inhalte vor der Veröffentlichung zu kontrollieren und gegebenenfalls eine Veröffentlichung zu verhindern, ist das eine Vorzensur, die das Grundgesetz in Art. 5 verbietet. Allgemeine Überwachungspflichten für Plattformen sind außerdem durch Art. 15 der eCommerce-Richtlinie verboten.

Die Treffsicherheit von Uploadfiltern ist nicht gewährleistet: Die Plattform Youtube, die sie bereits auf freiwilliger Basis einsetzt, sperrte zehntausende Videos, die Kriegsverbrechen des IS dokumentierten, weil in ihnen IS-Flaggen zu sehen waren. Automatisierte Filter sind nicht in der Lage, den Kontext von Ideen und Äußerungen einzuschätzen und daher massiv fehleranfällig. Dabei ist jeder einzelne legale Inhalt, der fehlerhaft gelöscht wird, eine unzulässige Verletzung der Meinungsfreiheit. Eine Fehlerquote, die jeder Filter aufweist, ist hier inakzeptabel.

Außerdem bergen solche Mechanismen ein enormes Missbrauchspotenzial, weil durch kleine Änderungen der Algorithmen statt terroristischer Propaganda auch unbequeme Postings gefiltert werden können. In einer Welt, in der soziale Netzwerke eine entscheidende Rolle für die Meinungsbildung spielen, wäre das fatal.

4. Übertragung der Rechtsdurchsetzung an Private

Nach der Verordnung sollen Inhalte nicht nur auf behördliche Anordnung gelöscht werden, sondern es besteht des weiteren die Möglichkeit, dass nationale Behörden Inhalte dem Hostinganbieter melden, damit dieser einen Verstoß gegen seine Nutzungsbedingungen prüft (Art. 5 VO-Entwurf). Private Hostinganbieter können im Rahmen ihres virtuellen Hausrechts durch Nutzungsbedingungen deutlich stärker als staatliche Akteure regeln, welche Inhalte gepostet werden dürfen. Auf diesem Weg könnten Behörden versuchen, Plattformbetreiber zu instrumentalisieren, um unliebsame Beträge verschwinden zu lassen, für deren Löschung auf Basis nationalen oder internationalen Rechts keine Grundlage bestünde. Besonders gefährlich ist dies, weil als Rechtsmittel gegen die Löschung zunächst eine Beschwerde beim Hoster vorgesehen ist. Der Entwurf stellt nicht klar, inwiefern ein Inhalteanbieter gegen eine Meldung verwaltungsgerichtlich vorgehen kann und ob eine gerichtliche Überprüfung auf Wahrung von Grundrechten stattfindet. Das ist skandalös und steht in eklatantem Widerspruch zum Erfordernis effektiven Rechtsschutzes nach der EU-Grundrechtecharta. Dieses tiefgreifende Risiko der Umgehung von Grundrechten ist durch nichts gerechtfertigt: Hält eine Behörde es nicht für erforderlich, einen Post via Löschungsanordnung blockieren zu lassen, so besteht kein Anlass, den Hostinganbieter zu einer Löschung auf abweichender Rechtsgrundlage anzuregen.

Wir fordern Sie daher auf, den Entwurf abzulehnen.

Mit freundlichen Grüßen

Digitale Gesellschaft
Digitalcourage
Chaos Computer Club
Gesellschaft für Informatik
Aktion Freiheit statt Angst
Forum InformatikerInnen für Frieden und gesellschaftliche Verantwortung
Wikimedia Deutschland


Digitale Gesellschaft kritisiert EU-Verordnungsentwurf zur Verhinderung der Verbreitung terroristischer Online-Inhalte in offenem Brief

Im EU-Parlament wird derzeit über einen Verordnungsentwurf der Kommission zur Verhinderung der Verbreitung terroristischer Online-Inhalte verhandelt. Der Entwurf birgt erhebliche Einschränkungen von Meinungs-, Informations- und Berufsfreiheit sowie große Missbrauchsrisiken. Die netzpolitische Organisation Digitale Gesellschaft e.V. sieht darin eine massive Gefahr für die Meinungslandschaft im Internet. Auch drei UN-Sonderkommissare warnen vor erheblichen Eingriffen in Menschenrechte.

Nach dem Entwurf sollen als terroristisch eingestufte Inhalte auf behördliche Anordnung binnen einer Stunde gelöscht werden – bei Nichtbeachtung drohen erhebliche Bußgelder.
Von diesen Pflichten sind alle Internetdiensteanbieter, die Informationen von Nutzern speichern, um sie Dritten zur Verfügung zu stellen, betroffen. Der ausufernde Anwendungsbereich würde das Aus für viele kleinere Anbieter und Non-Profit-Dienste bedeuten. Umfasst sind nicht nur öffentlich zugängliche Inhalte, sondern auch solche, die nur in einer kleinen Gruppe geteilt werden. Besonders problematisch ist, dass die Definition terroristischer Inhalte in ihrer derzeitigen Form journalistische Tätigkeiten und Erscheinungsformen zivilen Ungehorsams umfasst.

Elisabeth Niekrenz, politische Referentin der Digitalen Gesellschaft, erläutert: „Neben den Löschungsanordnungen sieht der Entwurf weitere Werkzeuge für die nationalen Behörden vor: Plattformbetreiber könnten dazu verpflichtet sein, durch Uploadfilter Inhalte vor Veröffentlichung mittels Algorithmen darauf zu überprüfen, ob sie terroristische Inhalte enthalten und gegebenenfalls zurückzuhalten. Darüber hinaus besteht die Möglichkeit, dass Behörden Inhalte den Anbietern melden, damit diese einen Verstoß gegen ihre Nutzungsbedingungen prüfen. Der Rechtsschutz der Inhalteanbieter gegen Löschungen ist in diesen Fällen durch eine Verschiebung der Entscheidung auf die privaten Hostinganbieter stark verkürzt.“

Die Digitale Gesellschaft e.V. hat sich gemeinsam mit dem Chaos Computer Club, der Gesellschaft für Informatik, der Aktion Freiheit statt Angst, dem Forum InformatikerInnen für Frieden und gesellschaftliche Verantwortung, Digitalcourage und Wikimedia Deutschland in einem offenen Brief an die deutschen Abgeordneten im Ausschuss für Bürgerliche Freiheiten, Justiz und Inneres (LIBE) gewandt und sie dazu aufgefordert, den Entwurf abzulehnen.  

Offener Brief:
https://digitalegesellschaft.de/wp-content/uploads/2019/02/Offener-Brief-gegen-den-Verordnungsentwurf-zur-Verhinderung-der-Verbreitung-terroristischer-Online-Inhalte-1.pdf (PDF-Version)

https://digitalegesellschaft.de/2019/02/offener-brief-an-deutsche-abgeordnete-im-libe-ausschuss/ (HTML-Version)

Weitere Informationen:
European Digital Rights (EDRi): https://edri.org/terrorist-content-regulation-document-pool/

netzpolitik.org: https://netzpolitik.org/2019/uploadfilter-gegen-terroristische-online-inhalte-wie-das-eu-parlament-um-seine-position-ringt/

Bericht der UN-Sonderkommissare:
https://spcommreports.ohchr.org/TMResultsBase/DownLoadPublicCommunicationFile?gId=24234 (PDF)

Legal Tribune Online (LTO): https://www.lto.de/recht/hintergruende/h/eu-kommission-verordnung-anti-terror-online-plattformen-loeschen/