Viertes Jahr Chatkontrolle – was erwartet uns?
Am 11. Mai 2022 hat die EU-Kommission ihren kontroversen Gesetzesvorschlag mit der Chatkontrolle gemacht. Teile der CSA-Verordnung („Verordnung zur Festlegung von Vorschriften zur Prävention und Bekämpfung des sexuellen Missbrauchs von Kindern“) sehen unverhältnismäßige Eingriffe in Grundrechte aller EU-Bürger*innen vor, welche gleichzeitig die IT-Sicherheit von allen Geräten massiv schwächen würden. Aufgrund dieser Probleme und da die EU-Kommission nach wie vor nicht von den problematischen Bestimmungen abrücken will, ist auch über drei Jahre nach dem Verordnungsvorschlag keine Einigung der für die Gesetzgebung relevanten Institutionen erfolgt. Ab Juli 2025 übernimmt die Regierung von Dänemark die Präsidentschaft im Rat der EU und wird damit die weiteren Verhandlungen zur Chatkontrolle koordinieren. In diesem Blogartikel fassen wir zusammen, worum es bei der Chatkontrolle geht, was bisher passiert ist und was als nächstes zu erwarten ist.
Hintergrund: was ist die Chatkontrolle?
Die EU-Kommission hat vorgeschlagen, dass alle Anbieter*innen von technischen Kommunikationsdiensten dazu verpflichtet werden können, anlasslos private Nachrichten zu durchleuchten. Besonders umstritten ist dabei der Einsatz von „Client-Side-Scanning“. Dabei würde das eigene Gerät von Nutzer*innen dafür genutzt, die Inhalte von versendeten Nachrichten zu scannen, noch bevor diese versendet werden. Damit würde die Ende-zu-Ende-Verschlüsselung untergraben, welche normalerweise das Fundament für die Sicherheit und Vertraulichkeit von digitaler Kommunikation ist. Betroffen wären zum Beispiel Messenger wie WhatsApp oder Signal, aber potentiell alle digitalen Kommunikationsdienste wie E-Mail.
Nötig wäre eine technische Infrastruktur, die eine effektive Ende-zu-Ende-Verschlüsselung aushebelt und damit Sicherheitslücken schafft, die von verschieden Akteuren ausgenutzt werden können und die sichere Kommunikation auf einer technischen Ebene fundamental und unverantwortlich untergraben würde. Da die Analyse der Kommunikation mittels fehleranfälliger KI-Systeme geschehen soll, würde die Chatkontrolle selbst bei kleinsten Fehlerquoten zu einer Unmenge an Falschmeldungen führen, die nicht nur potentiell fatale Folgen für die Betroffenen haben würden, sondern die begrenzten Kapazitäten der Polizeibehörden schnell überfordern würden – während organisierte Pädokriminelle rasch andere Verbreitungswege finden würden.
Begründet wird die Chatkontrolle mit dem Kinderschutz. Aber: Der eingeschlagene Weg der Europäischen Kommission mit seinem Fokus auf technische Systeme als vermeintliche Lösung komplexer sozialer Probleme ist im Ansatz verfehlt. Die vorgeschlagene Chatkontrolle gefährdet insbesondere die Sicherheit von unschuldigen Bürger*innen und setzt sie einer anlasslosen Massenüberwachung aus, während Pädokriminelle andere Verteilungswege nutzen. Verschlüsselte und sichere Kommunikation ist die Grundlage für politischen Aktivismus und Arbeitsbasis für Berufsgeheimnisträger*innen – wie beim investigativen Journalismus, dem Anwältinnen-Geheimnis oder der ärztlichen Schweigepflicht. Nicht nur Schutz von Geschäftsgeheimnissen, sondern unbedingt notwendig im digitalen Zeitalter für jede vertrauliche und intime Kommunikation und das Leben in einer demokratischen Gesellschaft.
Das Gesetz ist gemessen an der Vielzahl von Stellungnahmen welche der Europäische Dachverband von Digital- und Grundrechtsorganisationen zusammengetragen hat wohl der jemals am meisten kritisierte Gesetzesvorschlag der EU-Kommission überhaupt. In die Kritik reihen sich Sachverständigen-Fachverbände ein, z.b. bei einer Anhörung zur Chatkontrolle im Bundestag. Kinderschutzorganisationen sprechen sich gegen Massenüberwachung aus. Sicherheitsbehörden warnen vor den Sicherheitsrisiken durch ein Schwächen von Verschlüsselung. Juristische Gutachten haben die Unvereinbarkeit der Chatkontrolle mit dem Grundgesetz und mit europäischen Grundrechten dokumentiert. Es gab Proteste gegen die Pläne zum Scannen ihrer privaten Nachrichten von Fußballfans in Stadions genauso wie von Digitalrechtsaktivisten auf der Straße. Auch die Anbieter*innen verschlüsselter Dienste warnen vor einer Schwächung ihrer Produkte. Zuletzt warnte auch der Thinktank Centre for European Policy (cep) vor den Gefahren digitaler Hintertüren für die Wirtschaft und für kleine und mittlere Unternehmen.
Dabei schöpfen zumindest in Deutschland die Strafverfolgungsbehörden bestehende Möglichkeiten bisher gar nicht aus. Eine investigative Recherche von Strg_F zeigt, dass Polizeibehörden strafbare Aufnahmen von sexualisierter Gewalt an Kindern und Jugendlichen in pädokriminellen Foren nicht löschen lassen, obwohl dies möglich wäre. Das hatte Strg_F in einer gemeinsamen Recherche mit Panorama und dem Spiegel bereits 2021 nachgewiesen. Obwohl die Politik daraufhin Besserung versprochen hatte, wurde von der Konferenz deutscher Innenminister*innen (IMK) 2023 ein geheimer Beschluss gefasst, Strafverfolgungsbehörden weiter nicht zum Löschen bekannter Inhalte zu verpflichten. Die IMK möchte Medienberichten zufolge an dieser unverständlichen Praxis festhalten.
Chatkontrolle – was ist bisher passiert?
In einem Fortschrittsbericht zu den Verhandlungen hat Polen, welches bis Ende Juni die Ratspräsidentschaft im EU-Ministerrat inne hat, festgestellt, dass auch weiterhin keine Einigung zur Chatkontrolle möglich ist. Die Verordnung entwickelt sich immer mehr zur gruseligen europapolitischen Untoten, die längst beerdigt und begraben gehört, der aber immer wieder – zumeist halbjährlich von neuen Ratspräsidentschaften ein neues unwirkliches Leben einzuhauchen versucht wird. Denn die Chatkontrolle steckt weiterhin in der wenig transparenten Verhandlungsmaschinerie des Rates der EU fest, wo sich auch mehr als drei Jahre nach Einbringen des Verordnungsvorschlags durch die Kommission im Mai 2022 die benötigte qualifizierte Mehrheit unter den Regierungen für eine gemeinsame Position nicht finden lässt.
Die Chatkontrolle, wie sie von der Kommission vorgeschlagen wurde und im Rat diskutiert wird, sieht weiter das anlasslose, automatisierte Scannen und Analysieren der gesamten elektronischen Kommunikation aller Nutzer*innen von Kommunikationsdiensten auf der Suche nach Missbrauchsdarstellungen vor – ganz unabhängig ob es irgendwelche Anhaltspunkte für einen Verdacht oder eine Gefahr gibt.
Anstatt europaweit Maßnahmen zu koordinieren, derartige Missbrauchsdarstellungen aus dem Internet zu entfernen, hat sich die EU-Kommission entschlossen auf eine technische Wunderlösung zu setzen und damit die gesamte Bevölkerung einer anlasslosen Massenüberwachung zu unterwerfen – ein Ansinnen, das wie zu Erwarten auf die entschiedene Ablehnung nicht nur der Zivilgesellschaft, sondern auch der Mehrheit des Europaparlaments sowie einiger nationaler Regierungen stieß. Seither wird vor allem im Rat der EU über die Chatkontrolle gestritten.
Vor einem Jahr ist die belgische Ratspräsidentschaft mit dem Versuch einer Einigung gescheitert, da nicht genügend Mitgliedsstaaten bereit sind, das evident rechtswidrige und unverantwortliche Vorhaben der Kommission zu tragen. Ungarn hat Ende 2024 dann sogar versucht, Regierungen öffentlich bloßzustellen, welche sich kritisch zu den Gefahren der Chatkontrolle positionieren, was der der Orban-Regierung jedoch letztlich auf die Füße fiel. So haben mehrere Regierungen dort ausführlich die Probleme der Chatkontrolle beschrieben. Nancy Faeser, Innenministerin a.D., hat dort für die deutsche Bundesregierung erklärt, warum das Gesetzgebungsverfahren so bisher nicht zustimmungsfähig ist:
„Trotz der bisher erzielten Fortschritte ist die Bundesregierung der Auffassung, dass an der vorgeschlagenen Verordnung noch entscheidende Änderungen vorgenommen werden müssen. Aus deutscher Sicht dürfen Maßnahmen zum Scanning verschlüsselter privater Kommunikation sowie Maßnahmen, die die Ende-zu-Ende-Verschlüsselung aufbrechen, schwächen, verändern oder umgehen, nicht in die vorgeschlagene Verordnung aufgenommen werden. Dazu gehören insbesondere Technologien für das Client-Side-Scanning, die auf Nutzergeräte angewandt werden. Vor diesem Hintergrund enthält sich Deutschland der Stimme.“
Seit Januar 2024 hat die polnische Regierung, die sich im Rat immer wieder gegen die Chatkontrolle ausgesprochen hat, versucht, eine deutlich entschärfte Version kompromissfähig zu machen. Ein Vorhaben, das nicht zuletzt den Hardlinern unter den Befürworter*innen der massiven Grundrechtseingriffe gescheitert ist.
Wie geht es mit der Chatkontrolle weiter?
Wenn nun ab Juli die dänische Regierung den Vorsitz im Rat übernimmt werden die Verhandlungen künftig von einem eifrigen Verfechter der Kommissionspläne geleitet. Darum ist leider kaum zu erwarten, dass sie sich Mühe geben wird, einen ausgewogenen und technisch umsetzbaren Kompromiss einzubringen, der die Grundrechte der europäischen Bevölkerung zu wahren versucht.
Auch vonseiten der Kommission ist bislang kein Einlenken erkennbar. Diese hätte – gerade angesichts der bestehenden Blockade im Rat und der einhelligen Kritik von juristischen und technischen Expert*innen – jederzeit die Möglichkeit, ihren Vorschlag zurückzuziehen und Maßnahmen vorzuschlagen, die tatsächlich geeignet wären, Kinder zu schützen. Stattdessen soll eine dystopische Überwachungsinfrastruktur aufgebaut werden, die die gesamte Bevölkerung unter Generalverdacht stellt und ihre gesamte Kommunikation der automatisierten Analyse durch die Provider – nicht selten BigTech – und den staatlichen Behörden ausliefert.
Die zuständige EU-Innenkommissarin Ylva Johansson hat auch vor äußerst fragwürdigen Mitteln nicht zurückgeschreckt – wie eine investigative Recherche zu Lobbyverstrickungen der EU-Kommission mit KI-Unternehmen beim Erarbeiten des Gesetzesvorschlags gezeigt hat. Seit sie ihren Posten räumen musste, ist allenfalls ein sachlicherer Tonfall vonseiten der Kommission zu vernehmen. In der Sache verfolgt aber auch der neue Kommissar Magnus Brunner das Projekt weiter und ist bislang nicht bereit, den Verordnungsvorschlag zurückzuziehen.
Die Bundesregierung hat sie sich zuletzt konstruktiv in die Verhandlungen eingebracht und etwa die Annäherung an die Position des Europäischen Parlaments gefordert, das sich gegen eine anlasslose Chatkontrolle ausspricht.
Unklar bleibt nun, ob und wie die neue Bundesregierung sich in den Verhandlungen um die Chatkontrolle einbringen wird. Der finale Koalitionsvertrag enthält dazu keine klare Formulierung. Allerdings ist zu hoffen, dass die ausführlichen Auseinandersetzung der vergangenen drei Jahre, die zahlreichen Stellungnahmen von Expert*innen und Betroffenen sowie die einhellige zivilgesellschaftliche Ablehnung auch bei der neuen Regierung zu der Einsicht geführt haben, dass die Chatkontrolle nicht der richtige Weg ist, Kinder zu schützen.
Das Bündnis „Chatkontrolle STOPPEN!“ setzt sich weiter für eine Lösung ein, die tatsächlichen Kinderschutz statt Massenüberwachung bringt. Dafür ist ein Schutz des Rechts auf Verschlüsselung und sichere Kommunikation unerlässlich.
Dieser Blogpost wurde parallel auf Chat-Kontrolle.eu veröffentlicht. Dort findet Ihr auch weitere Infos zum Thema. Wir bleiben dran!