Im Kampf gegen Kinderpornos soll jede ausgehende Chatnachricht in der Europäischen Union vor dem Versand mitgelesen werden. Die Folgen für Meinungsäußerungen und Privatsphäre wären verheerend.
Ob „Guten Morgen, Schatz“, „Brauchst Du noch was aus dem Supermarkt?“ oder „Muss heute leider länger im Büro bleiben“: Abermillionen Chatnachrichten schreiben sich die Deutschen jeden Tag. Nutzt man Messenger-Dienste wie etwa WhatsApp oder Threema verlässt man sich darauf, dass die großen und kleinen Mitteilungen sicher verschlüsselt sind und niemand mitliest.
Aber was, wenn jede Nachricht, jedes Bild vor dem Abschicken sehr wohl gelesen bzw. angeschaut würde? Nicht von einem Menschen, sondern automatisiert per Künstlicher Intelligenz (KI)?
Der Gedanke lässt vielen einen eisigen Schauer über den Rücken laufen. Doch abwegig ist er nicht. Grund dafür ist ein Vorhaben der EU, die sogenannte „Chatkontrolle“. Was genau passiert dabei und wo liegen die Risiken? Darüber sprach die „Freie Presse“ mit Karola Köpferl vom Chaos Computer Club in Chemnitz.
Freie Presse: Was ist die Chatkontrolle und warum soll sie eingeführt werden?
Karola Köpferl: Wir haben Messenger auf unseren Handys, mit denen wir kommunizieren, zum Beispiel WhatsApp, Signal oder Threema. Man kann teils auch schon mit Arztpraxen kommunizieren über die elektronische Patientenakte und entsprechende Apps. Chatkontrolle würde heißen, dass diese Nachrichten quasi wie mit einem riesigen Rechen durchforstet werden. Ein digitaler Generalverdacht für alle. Konkret: Unter der dänischen EU-Ratspräsidentschaft wird aktuell ein Gesetzesentwurf besprochen. Unter dem Vorwand der Bekämpfung sexuellen Missbrauchs an Kindern will man Messenger-Dienste aller Art auf kinderpornografisches Material durchleuchten.
Freie Presse: Wie läuft das ab?
Köpferl: Technisch wäre das eine Überwachungssoftware, die direkt auf den Geräten der Nutzer installiert wird. Und die durchsucht Nachrichten und Bilder schon, ehe sie versendet werden. Das passiert dann auch mit jeder privaten Nachricht – von der Einkaufsliste bis zur Liebesbotschaft -, die Menschen schreiben. Alles wird automatisiert analysiert und im Verdachtsfall weitergeleitet. Das können dann nicht mehr einzelne Personen leisten. Da kommen also maschinelle Lernverfahren – umgangssprachlich KI – zum Einsatz.
Freie Presse: Jetzt ist der Kampf gegen den sexuellen Missbrauch von Kindern ein hehres Ziel. Der Chaos Computer Club in Chemnitz warnt jedoch vor der Chatkontrolle. Warum?
Köpferl: Grundsätzlich fordern wir einen stärkeren Schutz von Kindern und wollen ein Bewusstsein dafür schaffen, Kinderbilder nicht unbedingt durchs Netz zu schicken oder auf Social Media zu posten. Der Kampf gegen Darstellungen sexualisierter Gewalt an Kindern ist wichtig, aber solches Material wird in der Regel nicht über Messenger verschickt. Das findet ganz woanders statt. In geschlossenen Foren und im Darknet. Nach allem, was wir wissen, wird strafrechtlich relevantes Material fast nie über Alltagsmessenger geteilt.
Freie Presse: Was wäre im Kampf gegen Kinderpornos dann die geeignetere Strategie?
Köpferl: Es gilt, die Behörden besser mit technischen Mitteln auszustatten. Denn es ist ja auch für die Behördenmitarbeiter belastend, dieses Material auf den Plattformen zu sichten. Und die kommen auch rein personell gar nicht hinterher. Es bräuchte also mehr technische Unterstützung etwa durch die Entwicklung von Software, die Bilder und Videos auswertet. Aber auch stärkere Prävention und Aufklärungsarbeit: Kindern etwa klarzumachen, dass sie Rechte haben. Und dass sie sich nicht filmen lassen müssen. Die Chatkontrolle ist kein Kinderschutz, dessen müssen wir uns bewusst sein.
Freie Presse: Viele sorgen sich darüber, dass ein Werkzeug wie die Chatkontrolle erstmal eingeführt auch schnell zu anderen Zwecken eingesetzt werden könnte als dem Kampf gegen Kindesmissbrauch. Wie schätzen Sie das ein?
Köpferl: Wir sehen derzeit eine politische Tendenz hin zu mehr Datensammlungen und Registern, etwa eines für psychisch kranke Gewalttäter oder die Registrierung vermeintlich Linksextremer bei Demonstrationen. Oder nehmen wir die elektronische Patientenakte: Da wird zentral-digital ganz viel gesammelt, etwa Befunde. Die Geschichte hat gezeigt: Zentrale Register und das Überwachen von Kommunikation haben nirgendwo dazu geführt, dass Menschen freiheitlich leben konnten, dass Privatsphäre geschützt wurde. Wenn man diese Werkzeuge zur Totalüberwachung erst einmal gebaut hat, kann einem niemand garantieren, gegen wen die eingesetzt werden. Politische Systeme verändern sich – deshalb dürfen wir solche Machtinstrumente gar nicht erst schaffen. Gerade Menschen, die ins Feindbild autoritärer oder rechtsextremer Kräfte passen, könnten schnell zur Zielscheibe solcher Überwachung werden. Und wir konnten zum Beispiel in Ungarn sehen, dass bei Christopher Street Days Videoüberwachung mitsamt Gesichtserkennung eingesetzt wurde. Solch eine Überwachung kann man relativ schnell auf private digitale Räume ausweiten und etwa zentrale Register für vermeintlich gefährdende Personen erstellen.
Freie Presse: Wie zuverlässig ist Künstliche Intelligenz beim Scannen von Chats? Oder anders gefragt: Laufe ich Gefahr, die Polizei vor der Tür zu haben, weil die KI mal spinnt und fälschlicherweise anschlägt?
Köpferl: Man muss davon ausgehen, dass das passieren wird, falsch positive Ergebnisse - also Fehlalarme - sind möglich. Bilderkennung ist fehleranfällig. Egal wie gut sie trainiert wird, das Thema Fehlalarme wird ein massives Problem darstellen und die Ermittlungsbehörden noch mehr belasten, sollte die Chatkontrolle kommen. Die Behörden laufen jetzt schon auf Anschlag. Und dann bekommen die noch mehr Material reingespült.
Freie Presse: Was bedeutet es für eine für eine offene, liberale Gesellschaft, wenn vorm Absenden einer Nachricht erst noch jemand mitliest?
Köpferl: Es hebelt das Recht auf Privatsphäre und Meinungsfreiheit aus. Das führt dazu, dass Menschen sich selbst zensieren. Schauen wir in die Geschichte. Stichwort: Stasi. Ich kenne das von meinen Eltern oder Großeltern noch aus Erzählungen. Da wurden teilweise sehr verklausulierte Begriffe verwendet, weil man nie wusste, wer mithört. Die Stasi bestand aus Menschen – heute übernehmen das Maschinen mit gefühlt unbegrenzter Rechenleistung. Inzwischen sind die technischen Möglichkeiten ganz andere. Wie will ich mich da noch vertraulich mit meinem Partner austauschen? Wie sollen etwa politische Gruppen oder Journalisten sich austauschen? Gerade im investigativen Journalismus ist man auf anonyme Kommunikation angewiesen, wenn etwa Missstände aufgedeckt werden. Es wäre das Ende der freien Gesellschaft, wenn die Chatkontrolle käme.
Freie Presse: Die Abstimmung des EU-Rates über die Chatkontrolle am 14. Oktober wurde verschoben, Deutschland könnte jetzt das Zünglein an der Waage sein. Was wünschen Sie sich nun von der Bundesregierung?
Köpferl: Vor allem, dass sie mit Nein stimmt und klar macht: Eine Chatkontrolle wird es in Deutschland, in Europa nicht geben. Abgesehen von der Privatsphäre der Bürger ist es ist auch ein wirtschaftlich wichtiges Thema – sichere Verschlüsselung ist ein Standortfaktor. Kurzum: Deutschland muss ablehnen. Deutschland hat ein grundrechtlich geschütztes Briefgeheimnis – und das muss auch im digitalen Raum gelten. Und daran sollten wir uns auch auf europäischer Ebene halten. (phy)
Justizministerin gegen Chatkontrolle
Seit drei Jahren diskutiert man die Chatkontrolle in der EU. Grundlage für die laufenden Verhandlungen ist ein Vorschlag der EU-Kommission aus dem Jahr 2022 („Vorschlag über Vorschriften zur Prävention und Bekämpfung des sexuellen Missbrauchs von Kindern“). Inzwischen regt sich in Deutschland auch politisch Widerstand gegen das Vorhaben.
Bundesjustizministerin Stefanie Hubig (SPD) wurde zuletzt deutlich: „Anlasslose Chatkontrolle muss in einem Rechtsstaat tabu sein.“ Private Kommunikation dürfe nie unter Generalverdacht stehen, so die SPD-Politikerin. Der Staat dürfe Messenger auch nicht dazu zwingen, Nachrichten vor Versendung massenhaft auf verdächtige Inhalte zu scannen. Hubig: „Solchen Vorschlägen wird Deutschland auf EU-Ebene nicht zustimmen.“
CDU-Mann Jens Spahn sprach sich im Namen der Unionsfraktion des Bundestages strikt gegen die Chatkontrolle aus: „Das wäre so, als würde man vorsorglich mal alle Briefe öffnen und schauen, ob da etwas Verbotenes drin ist. Das geht nicht, das wird es mit uns nicht geben.“ (phy)
