Tag Archives: Fake News

Fake News und Hate Speech: Vorstoß des Bundesjustizministers gefährdet Meinungsfreiheit im Netz

„Mit seinem Vorstoß zur Bekämpfung von Hate Speech und Fake News gefährdet der Bundesjustizminister die Meinungsfreiheit im Netz und macht den rechtssicheren Betrieb zahlreicher Online-Dienste in Deutschland faktisch unmöglich. Sein Vorstoß wirft insgesamt mehr Fragen auf, als er beantwortet, und entbehrt obendrein einer sachlichen Grundlage. Solche postfaktischen Lösungen sind das denkbar schlechteste Instrument bei der Bekämpfung postfaktischer Inhalte im Netz“, erklärt Alexander Sander, Hauptgeschäftsführer des Vereins Digitale Gesellschaft.

Der Bundesminister der Justiz und für Verbraucherschutz, Heiko Maas, hat heute seine Pläne für ein härteres Vorgehen gegen strafbare Inhalte in sozialen Medien vorgestellt. Die Betreiber dieser Plattformen sollen demnach per Gesetz verpflichtet werden, vierteljährlich einen Bericht über ihre Löschpraxis bei bestimmten strafrechtlich relevanten Inhalten vorzulegen. Beschweren sich Nutzerinnen und Nutzer über solche Inhalte, so sollen die Betreiber unverzüglich Kenntnis davon nehmen und „offensichtlich rechtswidrige Inhalte“ binnen 24 Stunden, andere rechtswidrige Inhalte binnen 7 Tagen löschen. Verstöße gegen diese Pflichten können mit Bußgeldern zwischen 500.000 und 5 Millionen Euro geahndet werden. Für Bußgeldverfahren und für zivilgerichtliche Verfahren sollen die Anbieter außerdem einen Zustellungsbevollmächtigten in Deutschland benennen. Gelten soll das Gesetz nur für die Betreiber „sozialer Netzwerke“, die definiert werden als „Telemedienanbieter, die mit Gewinnerzielungsabsicht Plattformen im Internet betreiben, die es Nutzern ermöglichen, beliebige Inhalte mit anderen Nutzern auszutauschen, zu teilen oder der Öffentlichkeit zugänglich zu machen“. Davon ausgenommen sind die Anbieter von Plattformen, die im Inland weniger als 2 Millionen registrierte Nutzer haben.

Als sachliche Grundlage für den Vorstoß soll ein „Monitoring der Beschwerdemechanismen jugendaffiner Dienste“ dienen, welches jugendschutz.net im Auftrag des BMJV und des BMFSFJ im Januar und Februar 2017 durchgeführt hatte. Dabei wurde die Löschpraxis von Facebook, Twitter und Youtube im Hinblick auf Inhalte, welche die Straftatbestände der Volksverhetzung oder des Verwendens von Symbolen verfassungswidriger Organisationen erfüllen, überprüft. Innerhalb von einer Woche ab dem Zeitpunkt der erstmaligen Beschwerde wurden zwischen 93% (Facebook) und 100% (Youtube und Twitter) aller beanstandeten Beiträge gelöscht. Insbesondere bei Facebook wurde die Löschung in der Mehrzahl der Fälle nicht auf eine einfache Nutzerbeschwerde hin, sondern erst nach direkter Kontaktaufnahme per Email durchgeführt.

Wird der Vorstoß des Bundesjustizministers in der gegenwärtigen Form Gesetz, dürften viele Online-Dienste in Deutschland nicht mehr mit der nötigen Rechtssicherheit betrieben werden können. Unklar ist zunächst, für welche Anbieter das Gesetz eigentlich gelten soll. Zwar richtet sich es explizit an Anbieter mit mindestens 2 Millionen registrierten Nutzern in Deutschland. Offen bleibt jedoch, ob und gegebenenfalls wie dabei etwa Mehrfach-Accounts einzelner Nutzerinnen und Nutzer oder Profile von Social Bots zu berücksichtigen sind. Gleiches gilt angesichts der verbreiteten Nutzung von VPN und Anonymisierungswerkzeugen für die Frage, wie festgestellt werden soll, dass es sich um registrierte Nutzer im Inland handelt. Des Weiteren ist die Definition des „sozialen Netzwerks“ derart weit, dass sie nicht nur Facebook, Twitter und Youtube, sondern darüber hinaus auch zahlreiche andere Dienste wie Filehoster, Messenger, Email, VoIP und Videochat erfasst. Dies ist nicht zuletzt deshalb unverständlich, weil Gegenstand des Monitorings von jugendschutz.net gerade nur „jugendaffine Dienste“ und unter diesen nur die Branchenriesen Facebook, Twitter und Youtube waren.

Als besonders verheerend dürfte sich die Verpflichtung zur Löschung von „offensichtlich rechtswidrigen Inhalten“ binnen 24 Stunden erweisen. Da eine vorherige gerichtliche Kontrolle nicht vorgesehen ist, müssen die Anbieter selbst entscheiden, ob diese Verpflichtung im Einzelfall greift oder nicht. In Anbetracht der hohen Bußgeldandrohungen bei Verstößen dürfte dies zu einer höchst proaktiven Löschpraxis der Anbieter führen, die im Zweifel stets zu Lasten der Meinungsfreiheit gehen wird. Derart weitreichende Folgen schießen nicht zuletzt angesichts der Ergebnisse des Monitorings durch jugendschutz.net klar über das Ziel hinaus. Die enorm hohen Löschquoten zwischen 93 und 100% innerhalb einer Woche legen nahe, dass die bestehenden Kontrollmechanismen gut funktionieren und kein Bedarf für ein gesetzgeberisches Handeln besteht.

Fake News und Hate Speech: Was hilft gegen Propagandalügen?

Was tun gegen Meinungsmache durch Falschmeldungen und Hassbotschaften im Internet? Diese Frage bereitet den politisch Verantwortlichen in Berlin und Brüssel derzeit viel Kopfzerbrechen. Von einer sachgerechten Antwort sind Große Koalition und Bundesregierung leider immer noch weit entfernt. Neben ihrer Hilflosigkeit im Umgang mit Fake News und Hate Speech offenbaren die Lösungsvorschläge aus Union und SPD vielmehr auch ihre Bereitschaft, auf gesellschaftliche Fehlentwicklungen lieber mit Aktionismus zu reagieren als deren wirkliche Ursachen zu bekämpfen. Dabei gäbe es durchaus einige sinnvolle Maßnahmen, um politischer Desinformation und Hetze den Wind aus den Segeln zu nehmen.

Wir haben auch eine YouTube-Playlist zu dem Thema:

Wählermanipulation durch Fake News: Keine empirischen Belege
Die Sorge um den Einfluss von gefälschten Nachrichten, irreführenden Zitaten und hetzerischen Kommentaren auf die politische Meinungs- und Willensbildung erscheint zunächst durchaus nachvollziehbar. Teile der Bevölkerung in Deutschland haben offenbar das Vertrauen in etablierte Medien und Politik verloren und sich stattdessen einer geschlossenen medialen Parallelwelt, bestehend aus sozialen Medien, Blogs und sogenannten „alternativen“ Nachrichtenportalen, zugewandt. Entscheidend ist dort weniger, ob eine Meldung tatsächlich der Wahrheit entspricht; vielmehr soll sie Ressentiments befördern, bestehende Feindbilder bedienen und den politischen Gegner diffamieren.

Derartige Nachrichten hätten, so heißt es, Donald Trump zum Sieg bei den US-Präsidentschaftswahlen verholfen. Die vergleichsweise hohen Umfragewerte von Rechtspopulisten in ganz Europa vor Augen, scheint vielen Politikern die Gefahr, dass Fake News und Hate Speech sich nun hierzulande auf Wahlen auswirken könnten, mit Händen zu greifen zu sein.

So nachvollziehbar diese Überlegungen auf den ersten Blick wirken mögen, so wenig konnte ein solcher Einfluss bislang konkret empirisch belegt werden. Besondere Vorsicht ist daher geboten, wenn nun vorschnell der Ruf nach Maßnahmen laut wird, die mit Einschränkungen der Meinungsfreiheit und rechtsstaatlicher Grundsätze verknüpft sind.

Strafbarkeit: Keine Gesetzeslücken, sondern Mängel bei der Durchsetzung
Die Einführung eines neuen Straftatbestandes, wie es der innenpolitische Sprecher der Unionsfraktion, Stephan Mayer, zur Verfolgung von Desinformationskampagnen fordert, dürfte weder rechtspolitisch sinnvoll noch verfassungsrechtlich haltbar sein. Wo genau die Trennlinie zwischen „Desinformation“ und anderen Formen inhaltlich unwahrer oder verzerrter Meldungen, beispielsweise schlecht recherchierten Zeitungsenten, kommerziell motiviertem Click Bait oder Satire verlaufen soll, ist völlig unklar. Hinzu kommt, dass tatsächlich gar keine Strafbarkeitslücke besteht. Die Verbreitung unwahrer Tatsachen mit dem Ziel, einzelne Menschen oder Bevölkerungsgruppen öffentlich zu diffamieren oder Hass gegen sie zu schüren, ist als Volksverhetzung, Verleumdung oder üble Nachrede bereits nach geltender Rechtslage strafbar. Die verfassungsrechtlichen Grenzen dieser Straftatbestände sind zudem durch jahrzehntelange Rechtsprechung ausgelotet. Über die bestehende Strafbarkeit der Verbreitung unwahrer Tatsachen hinaus bleibt daher kaum Raum für weitere Einschränkungen der Meinungsfreiheit.

Dass sich Fake News und Hate Speech über soziale Netzwerke ungehindert verbreiten können, liegt ohnehin weniger an fehlenden Straftatbeständen, sondern an Mängeln bei der Durchsetzung und Verfolgung des geltenden Rechts. Online-Riesen wie Facebook zeigen sich bei der Löschung solcher Postings ebenso zögerlich wie bei der Kooperation mit deutschen Behörden. Die im vergangenen Jahr von Bundesjustizminister Heiko Maas mit viel Tamtam einberufene „Task Force“ zur Bekämpfung von Hassbotschaften im Netz scheiterte vor allem daran, dass die beteiligten Unternehmen wie Facebook, Google und Twitter über bloße Lippenbekenntnisse hinaus nicht dazu bereit waren, ihre Löschpraxis ohne Not nachhaltig zu ändern. Abgesehen davon wäre eine Selbstverpflichtung der sozialen Netzwerke zur Löschung bestimmter Inhalte auch nicht wünschenswert. Im Ergebnis würde dies nämlich bedeuten, dass marktbeherrschende US-Konzerne darüber entscheiden, wie weit Meinungsfreiheit im Netz geht.

Europarechtlich heikel: Proaktive Inhaltsfilterung und verschärfte Host-Provider-Haftung
Nach dem Fehlschlagen der „Task Force“ hat Bundesjustizminister Heiko Maas wiederholt ein „härteres Vorgehen“ gegen Plattformen angekündigt, die nicht konsequent genug gegen die Verbreitung von Fake News und Hate Speech einschreiten. Konkret ist seinen Äußerungen bislang allerdings nur zu entnehmen, dass er dabei vor allem Facebook im Visier hat. Wie das härtere Vorgehen hingegen en detail aussehen soll, liegt weitestgehend im Dunkeln.

Für seine Offensive stehen dem Bundesjustizminister allerdings nicht allzu viele Optionen zur Verfügung. Eine gesetzliche Pflicht für die Betreiber sozialer Netzwerke, sämtliche Postings der Nutzerinnen und Nutzer proaktiv auf Rechtsverletzungen zu prüfen, wäre technisch kaum umsetzbar und würde außerdem gegen die europäische E-Commerce-Richtlinie verstoßen. Zwar haben Facebook, Youtube und Twitter Anfang Dezember angekündigt, bei der Beseitigung terroristischer Propaganda zusammenzuarbeiten und gemeinsame Inhaltsfilter zu verwenden; von einer gesetzlichen Pflicht zur Aussonderung von Fake News und Hate Speech unterscheidet sich dieser Vorstoß jedoch gleich in doppelter Hinsicht: Erstens würde die Filterung aus freien Stücken und nicht aufgrund einer gesetzlichen Vorgabe geschehen. Zweitens ist die automatische Filterung bestimmter Bildinhalte und Schlüsselwörter, wie sie in terroristischer Propaganda verwendet werden, technisch durchaus möglich; die inhaltliche Einordnung einer Meldung als „Fake News“ hingegen ist deutlich komplexer und allein durch einen Algorithmus nicht zu bewältigen.

Grundsätzlich denkbar wäre es auch, die Haftung sozialer Netzwerke für nicht entfernte Fake News und Hate Speech zu verschärfen. Als sogenannte Host-Provider sind die Betreiber für rechtswidrige Postings der Nutzerinnen und Nutzer bislang erst ab dem Zeitpunkt verantwortlich, in dem sie davon Kenntnis erlangen. Ohne diese als „notice and takedown“ bekannte Regelung der E-Commerce-Richtlinie könnten Host-Provider-Dienste nicht mit der nötigen Rechtssicherheit betrieben werden. Zu diesen Diensten gehören alle Angebote, die Speicherplatz für fremde Inhalte im Internet bereitstellen, neben Facebook, Youtube und Twitter also beispielsweise auch Cloud-Storage-Dienste, Foren oder Dienste wie Wikipedia. Eine Verschärfung der Host-Provider-Haftung würde das rechtliche Fundament sämtlicher dieser Angebote erschüttern. Besonders nachteilig würde sich das insbesondere auf Unternehmen mit Sitz in der EU auswirken, die hiesige Online-Wirtschaft also weiter schwächen. Die Host-Provider-Haftung einzuschränken hieße also, das Kind mit dem Bade auszuschütten, und der außereuropäischen Konkurrenz gegenüber der Online-Wirtschaft in der EU weitere Wettbewerbsvorteile zu verschaffen.

Gute Ansätze vorhanden: Datenschutzgrundverordnung und Entwurf der ePrivacy-Verordnung
Tatsächlich gibt es insbesondere auf EU-Ebene bereits einige sinnvolle, ausbaufähige Ansätze, die dabei helfen könnten, Phänomene wie Fake News und Hate Speech in den Griff zu bekommen. Sowohl in der bereits verabschiedeten Datenschutzgrundverordnung als auch in dem kürzlich geleakten Entwurf der EU-Kommission für eine ePrivacy-Verordnung wird das Marktortprinzip vorgeschrieben. Wer Online-Dienste in der EU verfügbar macht und Geld mit Werbung verdient, muss sich dabei auch dann an europäisches Datenschutzrecht halten, wenn die eigentliche Datenverarbeitung außerhalb der EU stattfindet. In ähnlicher Weise könnte dies auch für andere Bereiche, etwa den Schutz der Persönlichkeitsrechte oder die Abwehr von Diskriminierungen, festgelegt werden.

Der Entwurf der ePrivacy-Verordnung verlangt von Kommunikationsdiensten, die in der EU genutzt werden können, außerdem die Bereitstellung einer verantwortlichen Person, an die sich Gerichte, Behörden und Betroffene bei Bedarf wenden können. Diese Person könnte nun auch verpflichtet werden, auf Löschanfragen innerhalb einer bestimmten Frist zu reagieren und nach entsprechender Anordnung durch ein Gericht auch für die Löschung zu sorgen. Verstöße gegen diese Pflicht sollten zudem bußgeldbewehrt sein, um ihre Durchsetzung zu gewährleisten.

Über diese gesetzgeberischen Maßnahmen hinaus dürfte Bildung die wirksamste Maßnahme sein, um Phänomenen wie Fake News und Hate Speech den Boden zu entziehen. Wer gelernt hat, mit der Informationsflut im Internet besonnen umzugehen und Meldungen stets mit mehreren Quellen abzugleichen, ist von vornherein weniger anfällig für Manipulationen durch gefälschte Nachrichten und Hassbotschaften. Es muss daher vermehrt Fact-Checking-Angebote im Netz geben. Auch wird es wichtig sein, Fake News und Hate Speech proaktiv und in leicht verständlicher Weise zu entkräften und als Propagandalügen zu entlarven. Auch Investitionen in Bildungseinrichtungen zur Förderung der Medienkompetenz sind in einer zunehmend digitalen und medialen Gesellschaft unabdingbar.