Regelmäßig werden die im Gesetz zur Chatkontrolle vorgesehenen Technologien (Client-Side-Scanning) mit Spam- und Malware-Filtern verglichen. Dieser Vergleich ist aber weder technisch, rechtlich noch praktisch zutreffend und verharmlost die Gefahren durch Client-Side-Scanning. Aus diesem Grund haben wir ein Hintergrundpapier zu den grundlegenden Unterschieden zwischen Spam- und Malware-Filtern und Client-Side-Scanning verfasst.
Der Gesetzesvorschlag zur Chatkontrolle wurde am 11. Mai 2022 offiziell von der EU-Kommission vorgestellt. Der Vorschlag wird seit dem begleitet von einer vielzahl von irreführenden Aussagen, Desinformation und anderen Unwahrheiten, mit denen für die Überwachungspläne geworben wird.
Ein solcher Mythos, den die damals zuständige EU-Kommissarin leider mehrmals in die Welt gesetzt hat: ein unsinniger Vergleich von Client-Side-Scanning mit dem Einsatz von Spam- oder Malware-Filtern. Leider hält sich dieser Mythos im Diskurs bis heute. Wir haben jetzt als Bündnis „Chatkontrolle Stoppen!“ ein Hintergrundpapier verfasst, um mit diesem Mythos ein für alle mal aufzuräumen.
Das Hintergrundpapier zu den grundlegenden Unterschieden zwischen Spam-/Malware-Filtern und dem Scannen nach CSAM in privater Kommunikation als PDF auf Deutsch.
Hier eine englischsprachige Fassung von European Digital Rights (EDRi) als PDF.
Nachfolgend die wichtigsten Punkte in Kürze:
Chatkontrolle ist Zwang, Spam-/Malware-Filter sind nicht gesetzlich vorgeschrieben
Mit der Chatkontrolle sollen Diensteanbieter per Gesetz zum Scannen privater Nachrichten verpflichtet werden, dem sogenannten Client-Side-Scanning. Spam- oder Malware-Filtern sind jedoch freiwillig, sie können von Nutzer*innen selbst konfigurieren oder ausgesucht werden. Die in der Gesetzgebung zur Chatkontrolle vorgesehenden Maßnahmen sind hingegen verpflichtend und greifen tief in die Privatsphäre und IT-Sicherheit aller Nutzer*innen ein.
Der Zweck unterscheidet sich grundlegend
Spam-/Malware-Filter werden freiwillig von Systemadministratoren eingesetzt, um die technische Infrastruktur sowie Nutzer*innnen vor Bedrohungen durch Malware und Spam zu schützen. Die Chatkontrolle hingegen zielt auf die Überwachung privater Kommunikation durch Dritte ab.
Daten werden anders verarbeitet
Spam-/Malware-Filter melden die erkannten Inhalte den Nutzer*innen, beispielsweise durch Ablage in Spam-Ordner zur nachträglichen Überprüfung. . Vermutlich hat fast jede von uns das schon einmal erlebt, weswegen es die geläufige Aufforderung gibt „Schauen Sie mal in Ihrem Spamordner.“ Nutzer*innen behalten dabei die vollständige Kontrolle über ihre privaten Nachrichten.
Die Chatkonrolle hingegen meldet verdächtige Bilder wie z.B. Missbrauchsdarstellungen automatisch an ein EU-Zentrum. Dieses ist verpflichtet, die Meldung zu sichten und dann gegebenenfalls an die Strafverfolgungsbehörden weiterzuleiten. Wie jede Klassifizierungssoftware ist die Client-Side-Scanning anfällig für Fehler und somit können völlig legale, private und intime Chats grundlos an Dritte ausgeliefert werden. Diese Art von automatisierte Überwachung privater Nachrichten stellt einen massiven Eingriff in die Privatsphäre dar.
Chatkontrolle ist intransparent
Bei Spam-/Malware-Filtern ist vollständige Transparenz hinsichtlich der Erkennungsregeln möglich. Die ihnen zugrundeliegenden Kriterien sind oft entweder öffentlich einsehbar oder können von unabhängigen Expert*innen nachvollzogen werden.
Client-Side-Scanning ist jedoch zwangsläufig intransparent, da esauf der Überwachung illigaler Inhalte basiert. Was das Sichten, Veröffentlichen der zugrundeliegenden Daten und ihrer Anwändung sowie eine öffentliche Kontrolle unmöglich macht.
Welche Inhalte konkret betroffen sind wäre dabei auch innerhalb der Europäischen Union nicht einheitlich, wie eine Studie von INHOPE zur rechtlichen Einordnung von Missbrauchsdarstellungen in verschiedenen Ländern zeigt.
Chatkontrolle bricht Ende-zu-Ende-Verschlüsselung
Moderne Kommunikation per Messenger findet verschlüsselt statt, um Nutzer*innen vor dem Zugriff Dritter zu schützen. Spam-/Malware-Filter werden dagegen in der Regel auf zentralen Servern für unverschlüsselte Kommunikation, z. B. E-Mails, eingesetzt. Dienste mit Ende-zu-Ende-Verschlüsselung sind davon in der Regel ausgenommen oder arbeiten nur lokal, um die Vertraulichkeit und Sicherheit von Nachrichten zu gewährleisten.
Die Client-Side-Scanning soll aber gleichermaßen für verschlüsselte und unverschlüsselte Kommunikation angewendet werden. Wenn so der Inhalt von Nachrichten auf dem Gerät analysiert wird, muss die Erkennungssoftware in der Regel mit externen Servern kommunizieren, z. B. um Hash-Listen und KI-Klassifikatoren abzurufen und möglicherweise Fragmente des Inhalts zur Analyse auf zentrale Server hochzuladen. Das Client-Side-Scanning und die Interaktion mit Software Dritter führen zu neuen Sicherheitsrisiken und bricht mit der Vertraulichkeit von Ende-zu-Ende-verschlüsselter Kommunikation.
Dieser Blogpost wurde parallel auf Chat-Kontrolle.eu veröffentlicht.