Risiken für Kinder und Jugendliche im Netz durch KI verschärft

Die Gefährdungen für Kinder und Jugendliche im Internet nehmen insbesondere durch den zunehmenden Einsatz generativer Künstlicher Intelligenz (KI) zu, die Täuschungen erleichtert und Risiken wie sexualisierte Gewalt, Mobbing und Extremismus verschärft. Dies ist ein zentraler Befund des Jahresberichts von jugendschutz.net, dem gemeinsamen Kompetenzzentrum von Bund und Ländern für den Jugendschutz im Internet. Der Jahresbericht zeigt auf, dass die Anbieter von Online-Diensten ihre Schutzmaßnahmen weiter verbessern müssen, um eine sichere und altersgerechte Nutzung des Internets für Kinder und Jugendliche zu gewährleisten.  

Generative KI erschwert es zunehmend, Realität von Fälschung zu unterscheiden. Gleichzeitig werden KI-generierte Inhalte für unterschiedliche Kontexte genutzt, darunter Cybermobbing und die Verbreitung von extremistischem Gedankengut. So nutzen extremistische Gruppen aktuelle Krisen, wie den Klimawandel und den Krieg im Nahen Osten, und erstellen entsprechende Inhalte, um Jugendliche zu radikalisieren. jugendschutz.net zeigt zudem auf, dass sexualisierte Gewalt gegen Kinder und Jugendliche weiterhin ein Problem bleibt, wobei zunehmend Videochats mit Kindern missbraucht werden, um intime Aufnahmen zu erzwingen. Stefan Glaser, Leiter von jugendschutz.net, betont mit Verweis auf die Abnahme der Hemmschwellen für digitale Übergriffe die Dringlichkeit des Problems. Darüber hinaus verweist der Jahresbericht auf Online-Trends und Challenges über Soziale Medien, die zu erheblichen gesundheitlichen Risiken führen können. Beispiele hierfür sind die ‚Hot-Chip-Challenge‘ und die ‚Firefinger-Challenge‘, die körperliche Gefahren mit sich bringen. Doch nicht nur Social Media sind von solchen Risiken betroffen: Auch Spielplattformen wie Roblox sehen sich mit extremistischen Inhalten und Cybergrooming sowie kostenpflichtigen Fallen konfrontiert. 

Insgesamt zeigt der Bericht, dass die Gefahren im Netz zunehmend komplexer werden, die Schutzmaßnahmen vieler Anbieter trotz gesetzlicher Vorgaben aber oft unzureichend sind. Die größte Schwachstelle in den Schutzkonzepten der Online-Dienste stelle die zumeist fehlende zuverlässige Altersprüfung dar. Obwohl viele Plattformen ein Mindestalter festlegen, wird das Alter der Nutzenden oft nicht verlässlich überprüft, was die Basisschutzmaßnahmen der Plattformen wie Filter und Sicherheitseinstellungen untergräbt. Aber auch die Reaktionen der Plattformen auf die Meldung von Verstößen fällt mangelhaft aus. Nur bei einem Bruchteil der gemeldeten Verstöße kommt es zu einer schnellen Löschung der Inhalte. Besonders schlecht schnitten hierbei große Plattformen wie YouTube und Facebook ab. Bundesjugendministerin Lisa Paus betont in diesem Kontext das Recht der Jugend auf eine sichere digitale Teilhabe und fordert die konsequente Umsetzung des Digital Services Act, der Plattform-Anbieter verpflichtet, Minderjährige vor ungeeigneten Inhalten zu schützen und ein hohes Maß an Privatsphäre zu gewährleisten. Auch die Jugendministerin von Rheinland-Pfalz, Katharina Binz, und Dr. Marc Jan Eumann, Vorsitzender der Kommission für Jugendmedienschutz (KJM), betonen die Notwendigkeit und konsequente Durchsetzung verstärkter Maßnahmen, insbesondere im Bereich der Altersprüfung, etwa die Verwendung von Echtzeit-Gesichtserkennung. 

www.jugendschutz.net/ueber-uns/jahresbericht  

Monika Gesing