Warum teilen Kinder das?: Wenn KI-Nacktbilder im Klassenchat landen

KI macht aus harmlosen Fotos täuschend echte Nacktbilder. Pornos, Dickpics und KI-manipulierte Bilder zirkulieren längst auch in Schulchats. Experten erklären, warum solche Inhalte weitergeleitet werden.

Pornos, Gewaltvideos und manipulierte Bilder gehören in vielen Klassenchats längst zur Realität. Besonders heikel sind sexualisierte Inhalte, die ohne Einverständnis der Betroffenen weitergeleitet, verfremdet oder mit Künstlicher Intelligenz (KI) neu erzeugt werden. Experten berichten, dass Kinder und Jugendliche oft nicht einschätzen können, welche Folgen ihr Handeln hat - und dass auch das Teilen sexualisierter Gewalt strafbar machen kann. Die Opfer leiden mitunter jahrelang unter den Mobbingfolgen.

Vor solchen Gefahren will die EU-Kommission Kinder besser schützen. Soziale Netzwerke, bestimmte Spieleplattformen sowie Anbieter von KI für Kinder und Jugendliche sollen nach Plänen der EU-Kommission nachweisen müssen, dass sie sicher sind. "Vorher gibt es keinen Zugang zu den Minderjährigen", sagte EU-Kommissionspräsidentin Ursula von der Leyen in Straßburg. Bevor neue Regeln in Kraft treten, müssen sich das EU-Parlament und die 27 EU-Mitgliedsländer mit dem Vorschlag befassen. Das könnte Monate oder sogar Jahre dauern.