Derzeit laufen in Brüssel Planungen zu einer umfassenden Chatkontrolle. Die Vorstellung des konkreten Entwurfes wurde bereits mehrfach verschoben und ist nun für Mitte Mai angesetzt.
Die bislang bekannt gewordenen Planungen lassen befürchten, dass eine umfangreiche massenhafte Überwachung elektronischer Kommunikation geplant ist. In der vergangenen Woche hat ein geleaktes kommissionsinternes Papier für Aufsehen gesorgt, dass unsere Befürchtungen bestärkt.
Ella Jakubowska, Policy Advisor von EDRi hat das Papier analysiert und einen Artikel geschrieben, den wir in deutscher Übersetzung veröffentlichen. Das englische Original gibt es hier.
Geleakte Stellungnahme der Kommission löst Bestürzung aus über Massenüberwachung der privaten Kommunikation
Eine gerade veröffentlichte Stellungnahme eines Überprüfungsausschusses der Europäischen Kommission zu dem bevorstehenden Gesetzentwurf der EU-Kommission „zur wirksamen Bekämpfung des sexuellen Missbrauchs von Kindern“ enthüllt starke Bedenken. Die Stellungnahme, die am 22. März vom französischen Medienunternehmen Contexte veröffentlicht wurde und auf den 15. Februar 2022 datiert ist, bestätigt die Befürchtungen, die EDRi und 39 andere zivilgesellschaftliche Gruppen vor kurzem über den Vorschlag geäußert haben, der die Integrität der privaten Online-Kommunikation in der EU zerstören und einen gefährlichen Präzedenzfall schaffen würde.
„Vorbehalte“. „Erhebliche Mängel“. „Effizienz und Verhältnismäßigkeit […] nicht ausreichend nachgewiesen.“ „Die Optionen […] werden nicht in einer ausreichend offenen, vollständigen und ausgewogenen Weise präsentiert.“
Es hört sich an als handele es sich um eine Untersuchung eines dubiosen Geschäftsabschlusses oder eines düsteren politischen Skandals. Tatsächlich aber beziehen sich die obigen Sätze auf eine kürzlich veröffentlichte Stellungnahme eines Prüfungsausschusses der Europäischen Kommission zu dem bevorstehenden Vorschlag ihrer eigenen Kollegen eines „Gesetzentwurfs zur wirksamen Bekämpfung des sexuellen Missbrauchs von Kindern“. Die Veröffentlichung des Entwurfs ist derzeit für den 27. April 2022 geplant, obwohl weitere Verzögerungen bis Mai wahrscheinlich sind. Der Vorschlag konzentriert sich auf die Eindämmung der Verbreitung von Material über sexuellen Kindesmissbrauch.
Diese besorgniserregenden Äußerungen aus dem Inneren der Europäischen Kommission, die gestern (22. März) vom französischen Medienunternehmen Contexte veröffentlicht wurden und auf den 15. Februar 2022 datiert sind, sind nur die Spitze des Eisbergs eines Gesetzesvorschlags, vor dem EDRi und 39 andere zivilgesellschaftliche Gruppen kürzlich gewarnt haben, dass er die Integrität der privaten Online-Kommunikation in der EU zerstören und einen gefährlichen Präzedenzfall schaffen könnte.
In Gesprächen versicherten uns die Mitarbeiter der für Inneres zuständigen Kommissarin Ylva Johansson, die das Dossier leitet, dass das neue Gesetz keine Anforderungen zum allgemeinen Scannen enthalten würde und dass es auch die Verschlüsselung nicht berühren würde. Die Ergebnisse des „Regulatory Scrutiny Board“ (RSB), das die interne Überprüfung durchgeführt hat, sprechen jedoch eine ganz andere Sprache:
„In dem Bericht [über die Rechtsvorschriften zur wirksamen Bekämpfung des sexuellen Kindesmissbrauchs] wird nicht hinreichend deutlich, wie die Optionen, die die Suche nach neuem Missbrauchsmaterial oder Grooming vorsehen, das [EU-]Verbot allgemeiner Überwachungspflichten einhalten würden.“
„Angesichts der Behauptung […] begrenzter Technologien zum Einsatz in verschlüsselter Kommunikation […], sollte der Bericht klarer hinsichtlich der praktischen Durchführbarkeit der politischen Optionen sein und Gewissheit über die effektive Anwendung geben.“
„Der Bericht sollte klarstellen, wie die Optionen, die eine Verpflichtung zur Aufdeckung von neuem Material über sexuellen Kindesmissbrauch oder Grooming beinhalten, die Anforderungen zum Schutz der Privatsphäre respektieren würden, insbesondere das Verbot allgemeiner Überwachungspflichten.“
Daraus geht hervor, dass der aktuelle Gesetzesentwurf von Kommissarin Johansson und ihrem Team in der Generaldirektion Migration und Inneres (DG HOME) Vorschriften enthält, die die Anbieter von Online-Kommunikationsdiensten dazu zwingen würden, die private Kommunikation von Menschen generell zu überwachen – auch wenn diese verschlüsselt ist. Darüber hinaus wird in der Stellungnahme auf die Rechtswidrigkeit der allgemeinen Überwachung nach EU-Recht hingewiesen, was bedeutet, dass das vorgeschlagene Gesetz, sollte es umgesetzt werden, möglicherweise vom Europäischen Gerichtshof gekippt werden könnte.
Anfang dieses Jahres warnte EDRi in den „10 Grundsätzen zur Chatkontrolle„, dass eine allgemeine Überwachung einer undemokratischen und unrechtmäßigen Massenüberwachung gleichkäme. EDRi empfahl stattdessen, dass alle Eingriffe in vertrauliche Chats auf der Grundlage eines begründeten Verdachts, einer richterlichen Anordnung und angemessener Sicherheitsvorkehrungen im Einklang mit den EU-Grundrechten gezielt erfolgen sollten.
Außerdem haben wir die EU-Kommission davor gewarnt, die Verschlüsselung zu schwächen, zu untergraben oder zu umgehen. Verschlüsselung ist für den Schutz aller Bereiche, vom Online-Shopping bis hin zur nationalen Sicherheit, unerlässlich, und einige der weltweit führenden Experten für Cybersicherheit warnten kürzlich, dass das erzwungene Scannen verschlüsselter Umgebungen „weder eine wirksame Verbrechensbekämpfung garantiert noch eine Überwachung verhindert. Der Effekt ist eher das Gegenteil“.
Darüber hinaus wird in der Stellungnahme darauf hingewiesen, dass der Gesetzesentwurf diese allgemeine Überwachung nicht nur für Material vorschreibt, das von den Behörden auf seine Rechtswidrigkeit hin überprüft wurde, sondern auch für die Suche nach „unbekannten“ Bildern und so genannten Beweisen für „Grooming“ unter Verwendung notorisch unzuverlässiger KI-basierter Tools. Wir alle haben schon gesehen, wie Bilder in sozialen Medien automatisch markiert wurden, weil ein KI-Tool fälschlicherweise annahm, dass das Bild Nacktheit enthielt, und wir alle haben schon einmal die Enttäuschung erlebt, dass eine wichtige E-Mail automatisch im Spam-Ordner landete.
Diese Folgen sind schlimm genug – aber stellen Sie sich vor, die Folge wäre nicht nur eine verlorene E-Mail, sondern eine Anzeige bei der Polizei, in der Sie beschuldigt werden, illegales Material über sexuellen Kindesmissbrauch zu verbreiten oder sich einem Kind angenähert zu haben. Das unvermeidliche Ergebnis solcher Technologien wäre für diejenigen, die zu Unrecht beschuldigt werden, unvorstellbar.
Der Bericht zeigt auch ein ernsthaftes Defizit in der angeblich evidenzbasierten Politikgestaltung der EU-Kommission auf:
„Die bevorzugte Umsetzungsoption sollte nicht im Voraus festgelegt werden, sondern sich als Ergebnis eines analytischen Bewertungs- und Vergleichsprozesses ergeben.“
Dies zeigt uns, dass die DG HOME bereits ihren bevorzugten Ansatz hatte und versuchte, den Rest des Vorschlags darauf zuzuschneiden, anstatt die Situation objektiv zu analysieren. Angesichts des Mangels an Beweisen und der Verhältnismäßigkeit der Übergangsversion dieses Gesetzes überrascht uns dies leider nicht.
In der Stellungnahme wird auch hervorgehoben, dass die Eingaben der Interessengruppen – einschließlich derjenigen, die Bedenken gegen den Vorschlag geäußert haben – „in einer transparenteren Weise dargestellt werden sollten“. Dies unterstreicht, warum es so wichtig ist, dass wir uns für unsere Privatsphäre einsetzen, solange wir dazu noch in der Lage sind.
Die Millionen-Euro-Frage bleibt also: Wenn all diese schwerwiegenden Probleme immer noch bestehen, warum wurde der Vorschlag dann von der Prüfungskommission genehmigt? Und was sagt diese Bewertung über die Rechtmäßigkeit der bereits bestehenden vorläufigen Rechtsvorschriften aus?
In der Stellungnahme heißt es, dass die Zustimmung des Ausschusses unter Vorbehalt steht, weil der Ausschuss „erwartet, dass die Generaldirektion die „Mängel“ vor dem endgültigen Vorschlag behebt“. Dies scheint kaum ein angemessener oder verlässlicher Ansatz zu sein, wenn man bedenkt, dass die Stellungnahme ein systematisches Versäumnis der DG HOME offenbart, einen verhältnismäßigen, evidenzbasierten und die Grundrechte achtenden Vorschlag zu unterbreiten. Darüber hinaus geht aus dem durchgesickerten Dokument hervor, dass eine frühere Version des Vorschlags bei der Überprüfung im vergangenen Jahr durchgefallen ist. Wichtige Lektionen, auch über die Notwendigkeit, die Privatsphäre zu respektieren, wurden offensichtlich nicht begriffen.
Am 9. März 2022 schrieb Kommissarin Johansson an Mitglieder des Europäischen Parlaments und versicherte ihnen, dass ihr Vorschlag „die Verschlüsselung nicht verbieten oder generell schwächen würde. Die Kommission erwägt nicht, in ihrem Vorschlag irgendwelche Mechanismen oder Lösungen vorzuschlagen, die diese Verpflichtung brechen würden“. Wie aus der nun durchgesickerten Stellungnahme hervorgeht, ist – wie wir in einem kürzlich erschienenen Blog erklärt haben – im Gegenteil die Untergrabung starker Verschlüsselung genau das, was der Vorschlag beabsichtigt.
Im Vorfeld des offiziellen Gesetzentwurfs im Laufe dieses Jahres fordern wir alle EU-Kommissare auf, sich an ihre Verantwortung für die Menschenrechte zu erinnern und sicherzustellen, dass kein Vorschlag vorgelegt wird, der das Recht der Menschen auf Privatsphäre und den Grundpfeiler der demokratischen Gesellschaft in Frage stellt.
Wir bedanken uns beim Büro von Patrick Breyer für die Übersetzung.