Hass, KI und Gewalt: Fehlender Schutz für Kinder und Jugendliche im Netz

Digitale Gefahren wachsen – und mit ihnen die Verantwortung

Die Zahlen sprechen eine klare Sprache: jugendschutz.net verzeichnete im Jahr 2024 über 17.600 Verstöße gegen den Jugendmedienschutz. In mehr als 9.700 Fällen forderte die Stelle Löschungen – mit Erfolg: 99 Prozent der Inhalte wurden entfernt oder gesperrt. Doch der Schein trügt. Trotz Reaktionen auf Beschwerden bleibt der strukturelle Schutz lückenhaft.

Kaum Schutz vor Missbrauch und Extremismus

Die größte Schwachstelle bleibt die fehlende Altersverifikation auf Plattformen wie TikTok, Instagram oder Discord. Kinder und Jugendliche bewegen sich dort oft ohne jede Hürde – leichte Beute für Extremisten, Täter oder Manipulation.

„Social Media sind weiterhin Einfallstore für sexuelle Belästigung, Gewalt und Extremismus“, warnt Stefan Glaservon jugendschutz.net. Besonders perfide: Rechtsextreme und Islamisten nutzen Trends und Sprache Jugendlicher, um Vertrauen zu gewinnen. Auch der Gaming-Bereich gerät zunehmend in den Fokus extremistischer Gruppen.

Künstliche Intelligenz als Brandbeschleuniger

Generative KI schafft neue Bedrohungen: Innerhalb von Sekunden lassen sich Alltagsfotos in täuschend echte Nacktbilder verwandeln. Diese sogenannten Deepnudes dienen zur Erpressung oder Bloßstellung.

„Es ist leider inzwischen kinderleicht, Alltagsfotos in Nacktbilder zu verwandeln“, erklärt Glaser. Trotz punktueller Fortschritte bleibe der Schutz nur dann wirksam, wenn das Alter der Nutzer überprüft werde.

Eltern und Schulen sind digitale Begleiter

Auch die Politik schlägt Alarm. Bundesjugendministerin Karin Prien betont die Verantwortung von Plattformen, aber auch von Familien und Schulen:

„Unsere Kinder bewegen sich täglich in einer digitalen Welt […] Cybermobbing, sexualisierte Ansprache oder extremistisches Gedankengut – das überfordert junge Menschen. […] Kinder brauchen informierte Eltern, Lehrkräfte und Fachkräfte.“

In Rheinland-Pfalz verweist Staatssekretär Janosch Littig auf den „Pakt gegen sexualisierte Gewalt“, der Prävention, Aufklärung und Schutz bündelt. Die Aufgabe sei gesamtgesellschaftlich.

KJM fordert Konsequenzen für Anbieter

Dr. Marc Jan Eumann, Vorsitzender der Kommission für Jugendmedienschutz (KJM), sieht besonders die Plattformbetreiber in der Pflicht:

„Viele große Plattformen freuen sich über die Aufmerksamkeit von Kindern und Jugendlichen, zugleich gehen sie fahrlässig mit ihren jungen Nutzer:innen um.“

Algorithmen und KI verschärfen die Lage zusätzlich. Die KJM werde weiterhin entschlossen eingreifen, wenn Anbieter ihre Verantwortung nicht wahrnehmen.

Fazit: Schutz braucht klare Regeln – und Kontrolle

Der Jahresbericht 2024 von jugendschutz.net macht deutlich: Technischer Fortschritt darf nicht auf Kosten der Schwächsten gehen. Es braucht wirksame Alterskontrollen, transparente Algorithmen und verbindliche Vorgaben für Anbieter. Nur dann bleibt das Internet ein Ort, an dem Kinder sicher wachsen können.