- Anzeige -
- Anzeige -
- Anzeige -
- Anzeige -
StartSicherheitGefahr im Algorithmus

Gefahr im Algorithmus

Radikalisierung, Peer Pressure und Mobbing: Soziale Medien bieten längst nicht mehr nur Raum für Tanzvideos oder neue Foodtrends. Immer wieder werden Gewalttaten und gefährliche Challenges auf Plattformen wie TikTok verbreitet. Gewalttaten, die sich auch auf die Zahlen der aktuellen Polizeilichen Kriminalstatistik niederschlagen. Die Verbindung zwischen Sozialen Medien und Jugendkriminalität ist nicht zu leugnen – aber komplex.

Mehrfach brennt es in den vergangenen Monaten in den Toiletten einer Berufsschule in Hechingen. Der Verdacht: Die Täter folgen einem TikTok-Trend. Die sogenannte „Devious Licks“-Challenge ist zwar nicht neu, kursiert aber weiterhin in den sozialen Netzwerken. Schon 2022 kam es deutschlandweit vermehrt zu Fällen von Vandalismus und Brandstiftung an Schulen. Dabei zündeten Schülerinnen und Schüler bewusst Toilettenpapier oder Handtücher in Schultoiletten an. In mehreren Fällen entwickelten sich daraus so schwere Brände, dass die Feuerwehr eingreifen musste. Die Täterinnen und Täter brachten sich dabei mitunter selbst sowie andere in ernsthafte Gefahr.

Immer wieder verbreiten sich TikTok-Challenges unter Kindern und Jugendlichen. Dabei geht es darum, teilweise scherzhafte, aber auch – im schlimmsten Fall – lebensgefährliche Aufgaben zu erfüllen. Eine im vergangenen Jahr veröffentlichte Studie der Landesanstalt für Medien Nordrhein-Westfalen untersuchte die Verbreitung und Wahrnehmung von TikTok-Challenges. Dabei zeigte sich: Rund ein Drittel der analysierten Videos enthielt potenziell schädliche Inhalte – etwa ein Prozent sogar potenziell tödliche. Doch nicht nur Challenges, sondern auch gewaltverherrlichende Videos sind Teil der Plattformen. Sie werden Jugendlichen oft ungefragt angezeigt. Laut der Studie stoßen über 60 Prozent der minderjährigen TikTok-User regelmäßig auf verstörende Inhalte.

Vom Video zur Straftat

Die Frage, wie weit der Einfluss reicht, kommt mit dem Blick auf die gestiegenen Zahlen der Gewaltverbrechen von Kindern und Jugendlichen im vergangenen Jahr auf. Die kürzlich vom Bundeskriminalamt (BKA) veröffentlichte Polizeiliche Kriminalstatistik 2024 (PKS) verzeichnete in diesem Deliktsfeld 13.755 tatverdächtige Kinder unter 14 Jahren – ein Anstieg um ganze 11,3 Prozent im Vergleich zum Vorjahr. Auch bei den Jugendlichen zwischen 14 und 18 Jahren gab es einen Zuwachs – die Zahl der Tatverdächtigen stieg um 3,8 Prozent auf 31.383. Ähnlich viele tatverdächtige Jugendliche im Bereich der Gewaltkriminalität gab es im Jahr 2011. Nach einem Rückgang in den Folgejahren kam es ab 2021 wieder zu einem steilen Anstieg.

Die Zunahme von Gewalt führt Prof. Dr. Dirk Baier, Dozent für Kriminologie an der Universität Zürich, unter anderem auf problematische Verhaltensvorbilder zurück, die über Soziale Medien verbreitet werden. Laut Baier gibt es „leider noch kaum wissenschaftliche Studien, die die Rolle der Sozialen Medien als Einflussfaktor von Jugendgewalt und Jugendextremismus untersucht haben.“ Zudem beobachtet Baier eine stärkere Orientierung an gewaltgeprägten Männlichkeitsnormen. „Es sind daher solch kulturelle Veränderungen, die sich kurz mit ‚Gewalt ist wieder cooler geworden‘ zusammenfassen lassen.“

Einfluss auf die Psyche

Wie Soziale Medien die Psyche von Jugendlichen und Kindern beeinflussen, untersucht die Cyber-Psychologin Catarina Katzer. „Aus psychologischer Sicht ist durch den digitalen Raum eine vollkommen neue Tätersituation entstanden, die deutliche Auswirkungen auf emotionale und kognitive Prozesse hat.“ Das Handeln per Bildschirm oder Touchscreen, ohne direkte körperliche Teilnahme, verändere die Wahrnehmung. „Durch die Trennung der Handlung, die im virtuellen Raum stattfindet, und der physischen Präsenz, die vor dem Bildschirm sitzen bleibt, entsteht eine emotionale Distanz zu sich selbst. Die Täter entfernen sich psychologisch gesehen immer mehr von ihren Taten, da sie diese analog nicht miterleben“, erläutert Katzer. Auch die Distanz zu den Opfern spiele eine Rolle – ohne sichtbare Reaktion fehle das Mitgefühl. Der Reiz, bei etwas Verbotenem zuzusehen, sei gerade für Jugendliche groß – und im digitalen Raum besonders leicht zugänglich.

Der Leiter des Instituts für Cyberkriminologie an der Hochschule der Polizei Brandenburg, Prof. Dr. Thomas-Gabriel Rüdiger, sieht noch eine dritte Problematik in der Nutzung von Sozialen Medien durch Kinder und Jugendliche. Der Wunsch nach Views, Likes und Follower-Zahlen führe zu einem Druck, hierfür aufmerksamkeitsstarke und somit teilbare Inhalte liefern zu müssen. „Dies könnte aus meiner Sicht einerseits erklären, warum sich gerade solche Inhalte schnell verbreiten, andererseits aber auch, warum teilweise strafbare Handlungen begangen werden, um Content zu generieren.

Lösungen wie im Straßenverkehr

Sowohl Katzer als auch Rüdiger sehen im Umgang mit Sozialen Medien deutlichen Handlungsbedarf. „Letztlich brauchen wir eine digitale Sicherheitsarchitektur, die auch wirklich den Willen hat, Minderjährige vor Straftaten im digitalen Raum zu schützen“, betont der Cybercrime-Experte. Rüdiger sieht hier eine Analogie zur Sicherheitsarchitektur im Straßenverkehr. „Das fängt bei den Eltern an, die die Risiken dieses Raumes kennen und ihre Kinder darauf vorbereiten, das geht weiter über die Schulen und die Lehrer. Gleichzeitig haben wir eine Vielzahl von Gesetzen, Regeln und auch technischen Maßnahmen geschaffen, vom Gehweg über die Ampel bis zur Fahrerlaubnis. Am Ende kontrollieren auch noch verschiedenste Institutionen diesen Raum – vom Ordnungsamt bis zur Polizeistreife“, so Rüdiger. Diese Struktur müsse auf das Internet übertragen werden – auf Grundlage einer echten Initiative. Da dies allein jedoch nicht ausreiche, plädiert der Leiter des Instituts für Cyberkriminologie für eine verpflichtende digitale Bildung ab der 1. Klasse an jeder Schule in Deutschland.

Vier Ansätze

Auch für Katzer steht fest: Prävention muss früh ansetzen. „Internationale Wissenschaftler forderten bereits 2016 neue Strukturen der Gewaltprävention – Ausbildungs-, Beratungs- und Hilfesysteme – sowie alters- und geschlechtsgerechte Konzepte und Lerninhalte, die individuelle, soziale und kulturelle Faktoren berücksichtigen und mit Medienerziehung verbinden.“ Neben der Präventionsarbeit nennt sie drei weitere zentrale Punkte: Erstens müssten gesetzliche Bestimmungen angepasst werden. „Opfer von digitaler Gewalt, insbesondere von Cyber-Mobbing, fühlen sich hilflos, auch weil die Täterinnen und Täter meist ungeschoren davonkommen. Ein Cyber-Mobbing-Gesetz sowie verbesserte Aufklärungsmöglichkeiten wären sinnvoll.“

Zweitens brauche es mehr Hilfeangebote. „Da die Zahl der jugendlichen Betroffenen mit Suizidgedanken gerade bei Cyber-Mobbing seit Jahren ansteigt, ist eine schnelle Reaktion und Hilfe besonders wichtig: Ein SOS-Button auf allen Sozialen Netzwerken, der sofortige Kontaktaufnahme garantiert, wäre sinnvoll.“ In Frankreich gibt es seit 2023 einen solchen „Sicherheitsknopf“ – Betroffene werden direkt an eine Hotline mit psychologischer und juristischer Beratung weitergeleitet. Drittens plädiert Katzer für den Einsatz technologischer Hilfen: „Innovative Tools mit psychologischer Wirkung wie z. B. Pop-ups, Chatbots etc., die durch KI beschreiben, was man als User gerade tut, fungieren wie eine Art digitaler Spiegel, der das eigene Handeln vorführt, zum Nachdenken anregt und aufzeigt, inwiefern man sich u. U. gerade strafbar macht und was dieses Verhalten bei den Betroffenen auslösen kann.“

Trotz aller besorgniserregenden Entwicklungen gibt es auch Grund zur Hoffnung. Laut dem Kriminologen Dirk Baier zeigt die aktuelle Kriminalstatistik, dass sich die Dynamik des Anstiegs bereits abschwächt. Er geht davon aus, dass bald eine Stagnation oder sogar ein Rückgang der Fallzahlen zu beobachten sein wird. Entscheidend wird nun sein, dass Prävention, Medienbildung und Schutzmaßnahmen weiter gestärkt werden

Den kompletten Beitrag finden Sie in der Mai-Ausgabe des Behörden Spiegel.

Kommentieren Sie den Artikel

Bitte geben Sie Ihren Kommentar ein!
Bitte geben Sie hier Ihren Namen ein