Sie sind wirklich alle dagegen. Seit Monaten läuft die Zivilgesellschaft Sturm gegen einen Verordnungsvorschlag der EU zum Kinderschutz. In einer öffentlichen Anhörung vor dem Digitalausschuss des Bundestages sprachen sich sogar ein Staatsanwalt und ein Kinderschutzaktivist gegen die Chatkontrolle aus.
Die Sachverständigen fürchten nicht weniger als die totale Überwachung im Internet und eine Überwältigung der Strafverfolgungsbehörden mit Falschmeldungen. Obwohl die EU-Kommission eigentlich Kinder und Jugendliche vor Missbrauch und sexueller Ausbeutung schützen wollte, indem sie am 11. Mai 2022 die “Verordnung zur Festlegung von Vorschriften zur Prävention und Bekämpfung des sexuellen Missbrauchs von Kindern” (CSAM-E) vorschlug. Diese soll Diensteanbieter dazu verpflichten, die Inhalte ihrer Klienten auf Missbrauchsmaterial und Cyber Grooming zu überprüfen. Dafür sieht die Verordnung unter anderem das sogenannte “Client Side Scanning” vor. Dabei überprüft ein Programm die Inhalte auf dem Endgerät des Nutzers, bevor sie für den Upload verschlüsselt werden. Falls die Diensteanbieter dabei etwas finden, sollten sie es den Strafverfolgungsbehörden melden. Deswegen hat der Verordnungsvorschlag von Gegnern den Spitznamen “Chatkontrolle” erhalten.
In der Folge würde die Komplexität solcher Programme um einiges steigen. “Durch zunehmende Komplexität erhöhen Sie die Angriffsfläche”, gibt Dr. Gerhard Schabhüser zu bedenken. Das Client Side Scanning würde also sämtliche Endgeräte unsicherer machen. Der Vizepräsident des Bundesamts für Sicherheit in der Informationstechnik (BSI) glaubt zudem, dass die Menschen Eingriffe in ihre Geräte vornehmen würden, um das Auslesen ihrer Kommunikation zu verhindern.
Technologieüberschätzung
Schon jetzt ist der Widerstand in Deutschland, Österreich und den Niederlanden massiv. Die Vorsitzende des Digitalausschusses im Bundestag, Tabea Rößner (Bündnis 90/Die Grünen), fasst es so zusammen: Nach Ansicht der Gegner verletze der Verordnungsvorschlag das Grundrecht auf persönliche Selbstbestimmung sowie das IT-Grundrecht. Die Sachverständigen sehen aber noch jede Menge andere Fehler.
“Dieses Gesetz ist eine krasse Überschätzung der Möglichkeiten von Technologien”, kritisierte Elina Eickstädt vom Chaos Computer Club (CCC). So schlage die Verordnung vor, sämtliche Inhalte aller EU-Bürgerinnen und -Bürger mittels Künstlicher Intelligenz (KI) auf missbräuchliches Material zu überprüfen.
Prof. Dr.-Ing. Martin Steinebach vom Fraunhofer-Institut für Sichere Informationstechnologie (SIT) erläuterte die Details. So sei zwischen verschiedenen Kindesmissbrauchsinhalten zu unterscheiden. Es gebe bekannte, durch Hashs markierte Kinderpornografie. Diese Inhalte würden Maschinen mit nahezu hundertprozentiger Sicherheit wiedererkennen. Neues Bild- und Videomaterial identifizierten selbstlernende Algorithmen dagegen nur mit einer Fehlerquote zwischen zehn und 15 Prozent. Besonders schwer falle Maschinen das Erkennen von Annäherungsversuchen von Pädophilen an Kinder (Cyber Grooming). Hierbei sei oft der Kontext entscheidend. Deshalb steige die Fehlerquote von KI in diesem Bereich auf etwa 20 Prozent. Wenn die Diensteanbieter alle Inhalte in der EU überprüfen müssten, ergäben sich schwindelerregende Mengen an Falschmeldungen.
Dies könnte besonders den Opfern von Kindesmissbrauch schaden, erklärt Joachim Türk. Das Vorstandsmitglied des Kinderschutzbundes Bundesverband berichtete, dass Überlebende, die miteinander über ihre Erfahrungen sprächen, von der KI leicht fehlidentifiziert werden könnten. Schon jetzt sei etwa die Hälfte der Kinderpornografie-Verdächtigen Jugendliche. Diese Zahlen würden durch die Chatkontrolle weiter steigen, fürchtet der Kinderschützer.
“Das hier ist ein Angriff auf die Demokratie, in der Kinder und Jugendliche aufwachsen”, sagte Türk. Gleich zweifach sei die Demokratie in Gefahr. Einerseits würde eine Chatkontrolle Menschen – eingeschlossen Kinder und Jugendliche – an freiem Meinungsaustausch im Internet hindern. Andererseits drohte die ebenfalls von der Chatkontrolle vorgesehene verpflichtende Altersverifikation Kinder und Jugendliche von Plattformen und Services auszuschließen.
Gesetz mit Nebenwirkungen
Noch dazu würde eine verpflichtende Altersverifikation unerwünschte Nebenwirkungen haben, sagt Felix Reda, Anwalt bei der Gesellschaft für Freiheitsrechte (GFF). Laut dem Juristen besitzen insbesondere Kinder und Jugendliche oft keine Ausweisdokumente. Sie wären dadurch überhaupt nicht in der Lage, Online-Dienste zu nutzen. Andere Verfahren seien oft “sehr invasiv und fehleranfällig”. Als Beispiel nennt er die biometrische Identifikation. Außerdem bemerkt Reda: “Eine verpflichtende Altersverifikation ist mit Open Source nicht vereinbar.” Denn gerade offene Software wie der sehr sichere Messenger Signal hätten keine zentrale Instanz, die eine Altersverifikation durchführen könnte. Zudem könnten nur große Plattformen wie der Google Play Store oder Appels App Store solche Vorgaben erfüllen. Dadurch verstärke die EU durch die Chatkontrolle effektiv das Monopol dieser Anbieter.Sogar aus der Strafverfolgung kommt Kritik. Der Leiter der Zentral- und Ansprechstelle Cybercrime NRW (ZAC NRW), Leitender Oberstaatsanwalt Markus Hartmann, würde sich wünschen, dass die EU einzeln über die Inhalte der CSAM-E abstimmen würde. So würde er das ebenfalls vorgeschlagene Europäische Zentrum zur Prävention und Bekämpfung des sexuellen Missbrauchs begrüßen. Ebenso befürwortet er eine Meldepflicht für Diensteanbieter. Als Quellen dieser Meldungen seien z. B. Hinweise von Nutzerinnen und Nutzern unproblematisch.
“Rechtlich fraglich jedoch ist aus meiner Sicht, ob und in welcher Intensität eigene Quellen von Anbietern angewendet werden können und sollen.” Was das Client Side Scanning angehe, so gelte: “Kompromittierte Verschlüsselung ist keine Verschlüsselung.” Damit setze die Kommission faktisch das wesentliche Schutzrecht des Internets außer Kraft. Es gebe mildere Mittel: Die Gesetzgeber müssten Strafverfolgungsbehörden so stärken, dass sie die gemeldeten Fälle besser bearbeiten könnten. Neben mehr Ressourcen sei ein moderneres, digitales Abfragesystem von Zuordnungsdaten, Log-in-Fallen und eine sachorientierte Lösung für die Vorratsdatenspeicherung nötig.
