"UNICEF ist zunehmend alarmiert durch Berichte, dass die Anzahl an KI-generierten sexualisierten Bilder im Internet rasant zunimmt. Besonders besorgniserregend sind Fotos von Kindern, die manipuliert und sexualisiert wurden.

Sogenannte Deepfakes, also mit künstlicher Intelligenz (KI) erzeugte oder manipulierte Bilder, Videos oder Audiomaterialien, die echt wirken sollen, werden zunehmend genutzt, um sexualisierte Inhalte mit Kindern zu produzieren. Dazu zählt der Einsatz von KI-Tools, die Kleidung auf Fotos entfernen oder verändern, so dass gefälschte Nackt- oder sexualisierte Bilder entstehen.

Eine neue Studie von UNICEF, ECPAT International und INTERPOL in elf Ländern zeigt das Ausmaß dieser schnell wachsenden Bedrohung: Demnach wurden die Bilder von mindestens 1,2 Millionen Kinder im vergangenen Jahr zu sexuell eindeutigen Deepfakes manipuliert. In einigen Ländern ist eines von 25 Kindern laut eigenen Angaben betroffen – das entspricht einem Kind in einer typischen Schulklasse.

Kinder selbst sind sich dieses Risikos sehr bewusst. In einigen der untersuchten Länder äußerten bis zu zwei Drittel der Kinder ihre Sorge, dass KI-generierte gefälschte sexualisierte Bilder oder Videos von ihnen erstellt werden könnten. Das Ausmaß der Besorgnis variiert stark zwischen den Ländern. Dies zeigt: es ist höchste Zeit für verstärkte Sensibilisierungs-, Präventions- und Schutzmaßnahmen.

Wir müssen uns darüber im Klaren sein: Mit KI-Tools erstellte oder manipulierte sexualisierte Bilder von Kindern sind Missbrauchsdarstellungen von Kindern (CSAM). Deepfake-Missbrauch ist Missbrauch, und nichts an dem Schaden, den er verursacht, ist ‚fake‘.

Wird das Bild oder die Identität eines Kindes verwendet, dann wird dieses Kind direkt zum Opfer gemacht. Selbst wenn kein identifizierbares Opfer erkennbar ist, normalisieren diese KI-generierten Missbrauchsdarstellungen von Kindern die sexuelle Ausbeutung von Kindern. Zudem schürt es die Nachfrage nach missbräuchlichen Inhalten und stellt die Strafverfolgungsbehörden vor erhebliche Herausforderungen bei der Identifizierung und dem Schutz von Kindern, die Hilfe benötigen.

UNICEF begrüßt nachdrücklich die Bemühungen jener KI-Entwickler, die Safety-by-Design-Ansätze und robuste Schutzmechanismen umsetzen, um den Missbrauch ihrer Systeme zu verhindern. Die Lage ist jedoch nach wie vor uneinheitlich, und zu viele KI-Modelle werden ohne ausreichende Sicherheitsvorkehrungen entwickelt. Die Risiken können sich noch verschärfen, wenn generative KI-Tools direkt in Social-Media-Plattformen eingebettet werden, auf denen sich manipulierte Bilder schnell verbreiten.

UNICEF fordert dringend folgende Maßnahmen, um der zunehmenden Bedrohung durch KI-generierte Missbrauchsdarstellungen von Kindern zu begegnen:

• Alle Regierungen erweitern die Definitionen von sexualisierten Missbrauchsdarstellungen von Kindern (CSAM) um KI-generierte Inhalte und stellen deren Erstellung, Beschaffung, Besitz und Verbreitung unter Strafe.

• KI-Entwickler implementieren Safety-by-Design-Ansätze und robuste Schutzvorkehrungen, um den Missbrauch von KI-Modellen zu verhindern.

• Digitalunternehmen verhindern die Verbreitung von KI-generierten sexualisierten Missbrauchsdarstellungen von Kindern und entfernen sie nicht nur, nachdem der Missbrauch stattgefunden hat. Außerdem stärken sie die Moderation von Inhalten durch Investitionen in Erkennungstechnologien, damit solches Material sofort entfernt werden kann – und nicht erst Tage nach einer Meldung durch ein Opfer oder dessen Vertreter.

Der Schaden durch Deepfake-Missbrauch ist real und dringend. Kinder können nicht darauf warten, dass die Gesetzgebung nachzieht.“

Hinweise für Redaktionen:

Das neuste Issue Brief von UNICEF zu KI und sexualisiertem Missbrauch und Ausbeutung von Kindern finden Sie hier (auf Englisch).

Die UNICEF Leitlinien zu KI und Kindern finden Sie hier (auf Englisch).

Weitere Hinweise:

Die genannten neuen Daten sind Teil der zweiten Phase eines Forschungsprojektes von UNICEF, ECPAT International und INTERPOL, mit Finanzierung von Safe Online. Das Projekt untersucht, wie digitale Technologien sexuelle Ausbeutung und Missbrauch von Kindern erleichtern. Im Laufe des Jahres 2026 werden nationale Berichte mit landesweiten Ergebnissen veröffentlicht. Die hier präsentierten Schätzungen basieren auf national repräsentativen Haushaltserhebungen in elf Ländern. Jede Umfrage umfasste ein Kind im Alter von zwölf bis 17 Jahren sowie einen Elternteil oder Betreuer, wobei das Stichprobendesign auf eine vollständige oder nahezu vollständige nationale Abdeckung (91–100 Prozent) abzielte. Die Forschung wurde in Ländern unterschiedlicher regionaler Kontexte durchgeführt. Weitere methodische Details: https://safeonline.global/dh2-research-methods_final-2/

Für Interviews und Hintergrundgespräche stehen wir gerne zur Verfügung.