Während die Bundesregierung mit einem neuen Gesetz gegen sexualisierte Deepfakes vorgehen will, warnen Polizeigewerkschaften vor den wachsenden Gefahren KI-gestützter Kriminalität. Sie fordern eine bessere technische, personelle und rechtliche Ausstattung der Sicherheitsbehörden.
Als „Einstiegsdroge“ bezeichnet der baden-württembergische Justizminister Moritz Oppelt (CDU) KI-generierte Missbrauchsdarstellungen von Minderjährigen. „Das könnte in einer Eskalationsspirale dazu führen, dass immer echtere Bilder und schlimmstenfalls auch tatsächliche Taten verfolgt werden“, warnt Oppelt. Die Zahl der Verurteilungen wegen Straftaten gegen die sexuelle Selbstbestimmung stieg in Baden-Württemberg um 10,4 Prozent auf 1.936. Das geht aus der Ende Oktober veröffentlichten Strafverfolgungsstatistik des Statistischen Landesamts hervor.
Gefälschte Bilder im Netz
Doch nicht nur Minderjährige geraten durch den Missbrauch von KI zunehmend in den Fokus. Auch Frauen sind immer häufiger von sexualisierten Deepfakes betroffen. Dabei erfordert die Erstellung solcher Darstellungen längst kein umfassendes technisches Know-how mehr. Wie Leonie Tabea Natzel, Pressereferentin der gemeinnützigen Organisation HateAid, gegenüber dem Behörden Spiegel erklärt, lassen sich sexualisierte Deepfakes mittlerweile innerhalb weniger Sekunden mithilfe von Webseiten, Apps und online verfügbaren Anleitungen erstellen.
„Alles, was es dafür braucht, ist ein öffentlich zugängliches Foto aus den sozialen Netzwerken, von der Schulwebseite oder dem Arbeitskontext, um eine Person in sexualisierter Form darzustellen“, mahnt die Pressereferentin. Aktuell seien in diesem Bereich zwei Entwicklungen zu beobachten. Erstens sinke die Hürde für die Täterinnen und Täter, zweitens nähmen Zahl und Reichweite der Inhalte zu. „Allein über die KI-Funktion ‚Grok‘ auf der Plattform X entstanden im Januar 2026 zeitweise rund 6.700 nicht einvernehmliche Nacktbilder pro Stunde und wurden direkt auf der Plattform veröffentlicht“, berichtet Natzel.
Für Betroffene bedeuteten die Bilder teils massive psychische und soziale Folgen. Dabei spiele es häufig gar keine Rolle, ob die Bilder echt seien. „Die Demütigung wirkt trotzdem“. Bereits im April legte Bundesjustizministerin Stefanie Hubig (SPD) einen Gesetzentwurf vor. Auslöser dafür war der medial viel diskutierte Fall rund um die Schauspielerin Colin Fernandes. Das Bundeskabinett beschloss den Entwurf Anfang Oktober. Mit dem geplanten Gesetz soll das Strafrecht verschärft werden. Außerdem sollen Opfer digitaler Gewalt über das Zivilrecht leichter selbst gegen die Urheber vorgehen und gerichtlich auch Account-Sperren erwirken können. HateAid begrüßt die gesetzlichen Entwicklungen. Besonders positiv bewertet die Organisation, dass nicht nur die Verbreitung, sondern auch die Herstellung sexualisierter Deepfakes unter Strafe gestellt werden soll. „Es ist ein überfälliger Schritt. Der Leidensdruck vor allem bei Frauen ist seit Jahren sehr groß“, betont HateAid-Geschäftsführerin Josephine Ballon.
Immer einen Schritt zu langsam
Sexualisierte Deepfakes sind dabei nur eine von vielen Möglichkeiten, KI für kriminelle Zwecke zu missbrauchen. Auch bei Betrugsdelikten, Cyber-Angriffen oder der Erstellung gefälschter Identitäten eröffnet die Technologie neue Möglichkeiten für Täterinnen und Täter. Die Sicherheitsbehörden stehen damit vor der Herausforderung, mit der rasanten technischen Entwicklung Schritt zu halten. Neben dem Einsatz von KI stellt auch der zunehmend einfache Zugang zu digitalen Werkzeugen für kriminelle Zwecke die Polizei vor Probleme. Wie leicht solche Werkzeuge inzwischen verfügbar sind, verdeutlicht der Bundesvorsitzende der Gewerkschaft der Polizei (GdP), Jochen Kopelke, im Gespräch mit dem Behörden Spiegel: „Man kann im Internet Druckpläne für 3D-Drucker herunterladen, um Waffen zu produzieren. Das darf man nicht erlauben.“ Inzwischen sei der Zugang zu kriminellen Werkzeugen „extrem hoch, einfach und kostenlos“. Den Zugriff auf solche Werkzeuge einzuschränken, werde zunehmend schwieriger.
„Die Polizei muss bereits bei der Entwicklung und Programmierung Mechanismen etablieren, um Systeme abschalten und über sogenannte Backdoors auf verschlüsselte Daten zugreifen zu können“, fordert Kopelke. Außerdem benötige die Polizei die Möglichkeit, den Menschen Präventionsinhalte näherzubringen. „Und wir brauchen am Ende auch die Fähigkeit, Recht durchzusetzen und die Programmierenden von KI-Anwendungen, bestimmter Software oder Internetseiten in die Verantwortung zu nehmen und gegebenenfalls strafrechtlich zur Rechenschaft zu ziehen“. Hierbei müsse endlich geklärt werden, dass KI sich nicht mehr selbst programmieren dürfe. „Sie braucht immer die menschlich, moralische, gesetzliche Barriere“. Dass die zunehmenden Fähigkeiten von KI-Systemen auch innerhalb der Branche kritisch betrachtet werden, zeigt die Warnung des ehemaligen Anthropic-Mitarbeiters Jacob Coxon. Im September kritisierte er auf X das unverantwortliche Handeln großer KI-Entwickler. Außerdem warnte er davor, dass Computersysteme bald die Fähigkeiten von Menschen übertreffen könnten.
Fluch und Segen
Auch der Bundesvorsitzende der Deutschen Polizeigewerkschaft (DPolG), Heiko Teggatz, sieht im zunehmenden Einsatz Künstlicher Intelligenz sowohl Chancen als auch Risiken. „Der zunehmende Einsatz von Künstlicher Intelligenz verändert die Kriminalitätsentwicklung erheblich und ist für die Polizei Fluch und Segen zugleich“. Insbesondere organisierte Tätergruppierungen nutzten KI inzwischen gezielt, um Straftaten professioneller und schwerer nachweisbar zu begehen. Gerade Phänomene wie Schockanrufe, der Enkeltrick oder Internetbetrugsdelikte hätten dadurch eine neue Dimension erreicht. Sprach- und Bildmanipulationen wirkten immer authentischer und erhöhten die Erfolgschancen der Täter deutlich. Damit wachse auch der Druck auf die Polizei.
„Die Organisierte Kriminalität ist den Ermittlungsbehörden technologisch nicht selten um Längen voraus“, warnt Teggatz. Aus diesem Grund müssten alle Sicherheitsbehörden nicht nur technisch, sondern auch personell und rechtlich deutlich besser ausgestattet werden. „Dazu gehört insbesondere die Bereitstellung moderner Analyse- und Ermittlungsinstrumente, die bereits heute im privaten Bereich verfügbar sind“, betont Teggatz. Außerdem appelliert der DPolG-Vorsitzende an den Gesetzgeber und fordert „klare gesetzliche Grundlagen, die den rechtssicheren Einsatz moderner KI-Technologien in der Gefahrenabwehr und Strafverfolgung ermöglichen.“ Nur wenn die Polizei technologisch auf Augenhöhe mit den Tätern agieren könne, werde sie auch künftig erfolgreich gegen KI-gestützte Kriminalität vorgehen können. Doch während Kriminelle die Möglichkeiten von KI bereits gezielt für ihre Zwecke nutzen, kommen die notwendigen technischen, rechtlichen und personellen Anpassungen nur langsam voran.
Mehr zu diesem Thema finden Sie in der November-Ausgabe des Behörden Spiegel.
