Seit Ausbruch der Corona-Pandemie hat sich vieles im Sozialleben ins Digitale verlagert. Kinder und Jugendliche nutzen verstärkter digitale Medien. Gerade die digitale Lehre zwingt sie, vermehrt auf digitale Dienste zurückzugreifen. Dies erfordert mehr Jugendschutz. Das Fraunhofer SIT veröffentlicht eine Machbarkeitsstudie, die technische Möglichkeiten für besseren Schutz vor Missbrauch im Netz vorstellt.
„Cybergrooming“ und „Cybermobbing“ sind Begriffe, die besonders in den letzten Monaten häufiger gelesen wurden. Die europäische Polizeibehörde (Europol) warnt gerade durch die steigende Nutzung der digitalen Dienste und anderen Kommunikationstools vor diesen möglichen Gefahren. Eine Machbarkeitsstudie des Fraunhofer-Instituts für Sichere Informationstechnologie (SIT) im Auftrag des Landes Hessen zeigt, welche Technologien dabei helfen können, Kinder und Heranwachsende vor Übergriffen im Netz und Fehlern beim Umgang mit digitalen Medien zu schützen. Das Ergebnis: Mithilfe künstlicher Intelligenz und Multimediaforensik können viele Delikte erkannt, oder sogar unterbunden werden. Dies sei auch erforderlich, da laut polizeilicher Kriminalstatistik die Zahl der Delikte im Bereich kinder- und jugendpornografischer Schriften im Jahr 2020 um mehr als 50 Prozent gestiegen ist.
Online-Dienste wie Messenger, soziale Medien und Chatforen von Online-Spielen spielen hier eine besondere Rolle, denn sie ersetzen in der Corona-Krise die analoge Kommunikation. Der unabhängige Beauftragte der Bundesregierung für Fragen des sexuellen Kindesmissbrauchs Johannes-Wilhelm Rörig forderte besseren Schutz vor Missbrauch im Netz. Welche Technologien dabei helfen können, untersuchte eine Machbarkeitsstudie des Fraunhofer SIT.
Um das Versenden von Nacktbildern zu verhindern, haben Forschende des Fraunhofer SIT unterschiedliche technische Verfahren der automatischen Bilderkennung geprüft, die unter anderem auf einem Deep-Learning-Netz basieren. Mit dieser Art der künstlichen Intelligenz lässt sich ein Nacktbild mit hoher Genauigkeit erkennen. Jugendliche könnten so technisch davon abgehalten werden, Nacktbilder zu erstellen und zu verbreiten. „Das in dieser Studie vorgestellte technische Verfahren zur Erkennung von Nacktbildern basiert auf einem neuronalen Netz. Da dieses lokal auf dem Smartphone ausgeführt wird, schützt es, ohne die Privatsphäre durch die Weiterleitung von Bildern an einen Server zu gefährden“, sagt Studienleiter Prof. Martin Steinebach. Die ausführlichen Beschreibungen und Ergebnisse der technischen Untersuchungen sowie das Training des neuronalen Netzes haben die Wissenschaftler des Fraunhofer SIT in der Machbarkeitsstudie beschrieben. Die Studie wurde bereits 2018 im Auftrag des Hessischen Ministeriums des Innern und für Sport fertiggestellt und wird jetzt auch der Öffentlichkeit zur Verfügung gestellt.
