Online-Anbieter sollen unter anderem Chats durchleuchten, um sexuelle Gewalt gegen Kinder zu finden. Verdächtige Inhalte sollen sie Behörden melden müssen. Liest bald die Polizei auf WhatsApp mit? Die wichtigsten Antworten.

Hinter dem Vorhaben der EU-Kommission zur Chatkontrolle steht ein über 130-seitiger Gesetzentwurf. Wir haben uns durchgearbeitet und Antworten auf die wichtigsten Fragen gesammelt.
Was will die EU mit meinem Handy machen?

Die EU-Kommission will Handys in Alarmanlagen für Darstellungen sexueller Gewalt verwandeln. Das gilt auch für Laptops und andere Geräte. Geplant ist ein System der Kontrolle und Durchsuchung von Kommunikationsinhalten. Das ist mit „Chatkontrolle“ gemeint. Außerdem will die EU-Kommission ein neues „EU-Zentrum gegen Kindesmissbrauch“ in Den Haag schaffen. Mit der geplanten Regulierung sollen Onlinedienste gezwungen werden können, die Kommunikation ihrer Nutzer:innen zu scannen, wenn sie eine entsprechende Anordnung bekommen haben. Finden sie verdächtige Aufnahmen oder Texte, müssen sie die Inhalte an das EU-Zentrum weiterleiten.

Für das eigene Handy bedeutet das: Kommunikation wäre in Zukunft nicht mehr vertraulich. Das kann auch verschlüsselte Messenger betreffen. Die EU-Kommission will Anbieter nicht nur dazu zwingen können, bereits bekannte Bilder oder Videos zu erkennen. Suchen sollen sie auch nach neuen, verdächtigen Aufnahmen und nach „Cybergrooming“. So nennt man es, wenn Erwachsene sexuellen Kontakt zu Minderjährigen anbahnen. In der Praxis heißt das, dass Anbieter unsere Kommunikation auswerten müssten.

Messenger wie WhatsApp und Signal sind Ende-zu-Ende-verschlüsselt. Da kann doch niemand mitlesen?

Die Antwortet laut: Ja, aber. Es stimmt, Ende-zu-Ende-Verschlüsselung soll verhindern, dass jemand außer Sender:in und Empfänger:in eine Nachricht mitlesen kann. Alle anderen Stationen im Internet dazwischen sehen nur Zeichensalat, aber nicht die Inhalte. Diese Verschlüsselung ist wichtig, damit weder kriminelle Hacker:innen noch Staaten unsere private Kommunikation lesen können. Auf den ersten Blick lässt sich eine Chatkontrolle also nicht mit Ende-zu-Ende-Verschlüsselung vereinbaren. Aber die Regulierung würde Unternehmen verpflichten, Inhalte trotzdem irgendwie zu scannen. Die EU-Kommission lässt offen, wie das technisch gehen soll.

Generell sollen die betroffenen Anbieter laut EU-Kommission zwar „vermeiden, die Sicherheit und Vertraulichkeit der Kommunikation von Nutzern zu unterminieren“. Doch das ist die Quadratur des Kreises: Entweder werden vertrauliche Inhalte automatisch überprüft und Treffer an Dritte weitergeleitet – oder nicht. Niemand kann garantieren, dass dabei keine Fehler passieren oder die Kontrolle nicht missbraucht und ausgeweitet wird.

Wie könnte die Chatkontrolle technisch aussehen?

Vorstellbar sind derzeit vor allem zwei Varianten, um etwa Bilder und Videos zu durchleuchten: Die erste nennt sich Client-Side-Scanning. Dabei werden auf dem Endgerät, also dem Handy, Tablet oder Computer, die privaten Nachrichten und Dateien schon vor dem Verschicken per E-Mail oder Messenger durchsucht. Die EU-Kommissarin Ylva Johansson bezeichnete das in einem Interview mit dem Spiegel als „eine Möglichkeit unter mehreren“.

Die zweite Variante wäre ein Bruch der Ende-zu-Ende-Verschlüsselung. Wenn Anbieter die Inhalte nicht auf dem Gerät selbst scannen wollen, müssten sie sie entschlüsseln können – anders geht es nicht. In beiden Fällen gilt: Die Vertraulichkeit der Kommunikation wäre ausgehebelt.

Um Kontaktanbahnungen (Cybergrooming) zu erkennen, sind andere Maßnahmen denkbar. Dafür bräuchte es etwa eine Software, die verschickte Textnachrichten untersucht. Das kann zum Beispiel eine inhaltliche Suche nach Schlagworten bedeuten. Die Anbieter könnten alternativ nach auffälligen Mustern suchen, etwa wenn ein Erwachsener oft Kinder anchattet. Große Plattformen wie Microsoft arbeiten bereits mit solchen Systemen. Doch bisher hat es keines der Unternehmen geschafft, ein zuverlässig funktionierendes Verfahren zu entwickeln.

Wie kann man überhaupt erkennen, ob ein Bild sexuelle Gewalt gegen Kinder darstellt?

Dafür gibt es bereits Verfahren wie das sogenannte Hashing. Ein Hash ist ein digitaler Fingerabdruck. Er lässt sich einfach aus einer illegalen Aufnahme berechnen – danach kann die Datei gelöscht werden. Diese Hashes kommen dann in eine Datenbank. Neu verschickte Dateien werden damit abgeglichen. So lassen sich bekannte Aufnahmen sexueller Gewalt gegen Kinder wiedererkennen.

Die Kommission will aber Anbieter nicht nur auffordern, nach bereits bekannten Aufnahmen zu suchen. Sie sollen auch neue Aufnahmen ausfindig machen. Hashes helfen da nicht weiter. Es braucht automatische Bilderkennung. Eine Software müsste abschätzen, was in einem Bild zu sehen ist: etwa Nacktheit oder mutmaßlich Minderjährige. Die Software müsste zudem legale Nacktbilder von illegalen Gewaltdarstellungen unterscheiden. Wenn ein Mensch eine 17-jährige Person nicht zuverlässig von einer 18-jährigen unterscheiden kann, dann kann das auch eine Software nicht.

Im Entwurf steht ausdrücklich, „Zweifel am Alter des potenziellen Opfers“ sollen die Anbieter nicht daran hindern, Inhalte zu melden. Alle bekannten Systeme weisen Fehlerquoten auf. Man muss also davon ausgehen, das bei der schieren Masse der überwachten Kommunikation viele fälschlicherweise gemeldeten Inhalte bei den Anbietern und Ermittler:innen landen werden.

WhatsApp, Gmail, TikTok, Instagram – wer muss da alles mitmachen?

Im schlimmsten Fall alle. Die EU-Komission schreibt: „Anbieter von Hosting- oder interpersonellen Kommunikationsdiensten“. Darunter fallen etwa Messenger wie WhatsApp, Signal und Telegram sowie E-Mail-Dienste. Aber im Entwurf heißt es, die Vorschriften sollen auch für Dienste gelten, bei denen die direkte persönliche Kommunikation nur eine Nebenfunktion ist. Also soziale Medien wie Instagram und TikTok oder die Chats beliebiger Quiz-Apps.

Auch Online-Speicherdienste wie etwa Google wären betroffen. Mitmachen bei der angeordneten Suche nach Hinweisen müsste ein Anbieter, wenn bei ihm etwa Darstellungen sexueller Gewalt gegen Kinder in „nennenswertem Umfang“ kursieren oder es „wahrscheinlich“ ist. Zuvor muss der Anbieter Gegenmaßnahmen treffen. Schon heute scannen Cloud-Anbieter wie Google automatisch hochgeladene, private Dateien. Falls die Gegenmaßnahmen nicht ausreichen, könnte eine Chatkontrolle angeordnet werden.

Warum ist die Chatkontrolle ein Problem, wenn es wirklich nur um sexuelle Gewalt gegen Kinder geht?

Es lässt sich unmöglich sicherstellen, dass Anbieter allein sexuelle Gewalt gegen Kinder aufspüren. Fachleute für Verschlüsselung betonen seit jeher: Technisch ist es unmöglich, solche Hintertüren so zu bauen, dass sie nur einzelne Verdächtige betreffen oder nur für einen bestimmten Zweck genutzt werden können. Hat ein Unternehmen einmal einen Weg geschaffen, um die Verschlüsselung zu umgehen und die Kommunikation seiner Nutzer:innen zu überwachen, dann schwächt das die Privatsphäre aller für immer. Dazu zählen auch jene Menschen, die besonders auf vertrauliche Kommunikation angewiesen sind: Whistleblower:innen, politische Dissident:innen, kritische Journalist:innen und verfolgte Minderheiten.

Eine weitere Gefahr sind falschpositive Treffer, also Fälle, in denen die Software ein legales Bild oder einen legalen Flirt für verdächtig hält. Alle Nutzer:innen müssten permament befürchten, dass ihre private Kommunikation bei einer Behörde landen könnte. Eigentlich sollen Nutzer:innen darüber informiert werden. Es gibt aber eine Ausnahme: Behörden dürfen Betroffene im Unklaren lassen, wenn das Ermittlungen gefährden könnte. Worst Case: Ein legaler Flirt oder ein Austausch von Fotos im Familienchat endet mit einer Hausdurchsuchung.

Wir werden doch eh ständig überwacht. Was soll an der Chatkontrolle so schlimm sein?

Die Chatkontrolle hebt die Überwachung auf eine neue, noch nie dagewesene Stufe. Mit der Chatkontrolle würden weite Teile der digitalen Kommunikation aller Bürger:innen überwacht, unabhängig von einem Anlass oder Verdacht. Das ist ein krasser und weitreichender Eingriff in die Privatsphäre. „Die ausgeklügelteste Massenüberwachungs-Maschinerie, die je außerhalb Chinas und der UdSSR ausgerollt wurde“, schreibt der US-Forscher Matthew Green und fügt hinzu: „Keine Übertreibung“.

Kann man mit der Chatkontrolle auch andere Inhalte finden?

Die EU-Kommission betont, das solle nicht passieren. Aber technisch geht das. Ist diese Technologie einmal flächendeckend eingeführt, könnte sie nach allen möglichen Dingen suchen. Die Technologien sind nicht beschränkt darauf, nach Darstellungen von sexueller Gewalt zu suchen – oder nach Fotos von Drogen oder Demonstrationen.

Die Chatkontrolle könnte für autoritäre Staaten ein Vorbild sein, um Anbieter auch auf die Suche nach anderen Inhalten zu schicken. Etwa um Andersdenkende noch effektiver zu jagen. Die Technologie ist da vollkommen neutral – und das macht es so gefährlich.

Könnte die Panik vor der Chatkontrolle einfach übertrieben sein und alles ist nicht so gemeint?

Nein, der Vorschlag liegt jetzt so in all seiner Gefährlichkeit auf dem Tisch und die Kritik daran ist sehr breit, einhellig und vernichtend. Der Entwurf muss aber noch durch das EU-Parlament und den Rat gehen. Es wäre nicht das erste Mal, dass ein Vorstoß der EU-Kommission auf dem Weg deutlich verändert wird. Das passiert aber nicht von allein. Reaktionen der Öffentlichkeit, Proteste und konstruktive Vorschläge haben einen entscheidenden Einfluss darauf, was aus der Chatkontrolle wird.

Kann man sich gegen die Chatkontrolle wehren?

Ja. Noch ist alles möglich, sogar eine komplette Rücknahme des Entwurfs. Doch dafür braucht es viel Öffentlichkeit und Widerspruch in verschiedenen europäischen Ländern. Ein erster Schritt ist Aufklärung: Alle können dazu beitragen, ihr direktes Umfeld über die Gefahren einer Chatkontrolle zu informieren. Wer alles nochmal genau nachlesen möchte, findet den Vorschlag der EU-Kommission hier. Schon jetzt gibt es ein Bündnis namens „Chatkontrolle stoppen“, das auf Twitter und Mastodon vetreten ist. Denkbar sind weitere Bündnisse, Online-Petitionen, Proteste und Aktionen.

Sollte man nicht so viel wie möglich unternehmen, um Kinder zu schützen?

Dass sexuelle Gewalt gegen Kinder und die Verbreitung dieser Bilder im Netz bekämpft werden müssen, ist unumstritten. Uneinigkeit besteht in der Frage der Mittel. Selbst der Kinderschutzbund bezeichnet die Pläne zur Chatkontrolle als „weder verhältnismäßig noch zielführend“. Das heißt, es gibt auch Zweifel daran, ob die invasive Maßnahme überhaupt helfen würde.

Sogar die EU-Kommission schreibt in ihrem Entwurf, dass neben dem Schutz von Kindern auch die Grundrechte von Nutzer:innen beachtet werden müssten. „Keines dieser Rechte ist absolut, und sie müssen im Zusammenhang mit ihrer Funktion in der Gesellschaft betrachtet werden“. Kritiker:innen zufolge ist der EU-Kommission diese Abwägung offenkundig misslungen.

Hat irgendjemand einen besseren Vorschlag als Chatkontrolle?

Es gibt viele Mittel gegen die Verbreitung von Darstellungen sexueller Gewalt. Schon heute identifizieren die Ermittler:innen mehr Kriminelle in diesem Feld als je zuvor. Software zur automatischen Erkennung auf öffentlich zugänglichen Servern gibt Ermittler:innen schon heute so viele Hinweise, dass sie vor allem darauf reagieren. Sie haben kaum noch Zeit, darüber hinaus eigene Ermittlungen anzustrengen.

Sehr viel Luft nach oben gibt es auch beim Umgang mit bereits entdeckten Aufnahmen. Das Bundeskriminalamt (BKA) konzentriert sich auf die Verfolgung der Täter:innen und lässt viele Aufnahmen online. Es fordert Anbieter nicht strukturiert auf, das Material von ihren Severn zu löschen. Dabei löschen viele Anbieter gemeldete Inhalte innerhalb von Stunden von ihren Servern, und das weltweit.

Ein großer Teil der verdächtigen illegalen Darstellungen werden von Minderjährigen selbst produziert – und gelangen dann vielleicht in die Hände Krimineller. Hier kann nur Bildung ansetzen. Digitale Kompetenz entsteht nicht durch Chatkontrolle, sondern in Schulen, Bildungseinrichtungen und mithilfe der Eltern.

netzpolitik.org/2022/eu-plaene-einfach-erklaert-warum-die-chatkontrolle-grundrechte-bedroht/