Vor dem Hintergrund der aktuellen Debatte um sexualisierte Deepfakes macht UNICEF Deutschland darauf aufmerksam, wie sehr Schutzlücken im digitalen Raum insbesondere Kinder zunehmend in Gefahr bringen. UNICEF fordert verstärkte Schutzmaßnahmen, Aufklärung und Prävention, um Kinder vor diesen und allen Formen digitaler Gewalt besser zu schützen.

Die Zahl KI-generierter sexualisierter Bilder von Kindern im Netz wächst rasant. Allein 2025 waren laut einer Studie von UNICEF und Partnern in elf Ländern mindestens 1,2 Millionen Kinder von Deepfake-Missbrauch betroffen. In einigen Ländern wurden im statistischen Durchschnitt Bilder von einem Kind pro durchschnittlicher Schulklasse zu sexuell eindeutigen Deepfakes manipuliert.

„Gefälschte Bilder, realer Schaden – Deepfake-Missbrauch ist Missbrauch, mit entsetzlichen Folgen für Kinder. Kinder brauchen dringend wirksameren Schutz – auch im digitalen Raum", sagt Christian Schneider, Geschäftsführer von UNICEF Deutschland. „Es ist gut und richtig, dass in Deutschland der Besitz und die Verbreitung von kinderpornografischem Material grundsätzlich strafbar ist – unabhängig davon, ob es mit einer KI erzeugt wurde oder nicht. Aber die Erfahrung zeigt: Bis dieses Material gefunden und gelöscht ist, ist bereits riesiger Schaden für Kinder entstanden, mit oft lebenslangen Folgen. Deshalb ist wichtig, dass sexualisierte Missbrauchsdarstellungen von Kindern gar nicht erst generiert werden und in Umlauf kommen können.”

Durch künstliche Intelligenz ist die Herstellung von sexualisierten Missbrauchsdarstellungen (CSAM) sehr viel einfacher geworden. Täter nutzen frei verfügbare KI-Tools, um Kleidung auf Fotos von Kindern zu entfernen und gefälschte Nacktbilder zu erzeugen. Wer das Bild eines Kindes so missbraucht, schadet diesem Kind direkt. Doch auch wenn kein konkretes Kind erkennbar ist, haben solche Darstellungen gravierende Folgen: Sie normalisieren sexualisierte Gewalt gegen Kinder, schüren die Nachfrage nach Missbrauchsmaterial und erschweren es Strafverfolgungsbehörden, reale Fälle zu erkennen und Kinder zu schützen, die Hilfe brauchen.

Kinder und Jugendliche wachsen in einer digitalen Welt auf, die Chancen bietet, aber bisher nicht an ihren Rechten, ihrem Schutz und ihrem Wohlbefinden ausgerichtet ist. Weltweit werden Forderungen nach stärkerem digitalem Kinderschutz lauter – auch in Deutschland. Risiken und Schutzlücken für Kinder bestehen neben Deepfakes unter anderem auch durch Desinformation, Cybergrooming, Cybermobbing, Hassrede und schädliche Inhalte wie Gewaltdarstellungen oder emotionale Abhängigkeit von Chatbots. Obwohl Kinder und Jugendliche sehr viel Zeit online verbringen, verfügen 41 Prozent der Jugendlichen nur über geringe digitale Kompetenzen. Dies zeigen Daten aus dem UNICEF-Bericht zur Lage der Kinder in Deutschland.

Auch auf europäischer Ebene besteht aus Sicht von UNICEF dringender aktueller Handlungsbedarf. So droht schon am 3. April eine Ausnahmeregelung auszulaufen, die Digitalunternehmen eine rechtliche Grundlage gibt, freiwillig Missbrauchsfälle auf ihren Angeboten zu entdecken, zu entfernen und anzuzeigen, während ein längerfristiger gesetzlicher Rahmen noch intensiv politisch verhandelt wird. UNICEF fordert EU-Parlamentarier dazu auf, eine zeitlich befristete Verlängerung der bisherigen Interimsregelung zu unterstützen.

UNICEF empfiehlt ein umfassendes Schutzkonzept für digitalen Kinderschutz, das Maßnahmen aus Prävention, Schutz und Unterstützung zusammenbringt:

• Unternehmen in die Pflicht nehmen: Digitalunternehmen müssen Sicherheit für Kinder von Anfang an in ihre Produkte einbauen und wirksame Schutzmechanismen gegen Missbrauch schaffen. UNICEF begrüßt, dass einige Unternehmen dies bereits tun – doch die Lage bleibt lückenhaft. Plattformen müssen Missbrauchsdarstellungen sofort erkennen und entfernen – nicht erst nach einer Meldung durch Betroffene. Altersgerechtes Design und funktionierende Meldesysteme müssen Standard sein.

• Rechtlichen Rahmen stärken: Gesetze müssen betroffene Kinder wirksam schützen und Lücken in der Strafverfolgung schließen. Behörden brauchen ausreichend Ressourcen, um Missbrauchsbilder schnell aus dem Netz zu entfernen – auch über Landesgrenzen hinweg. Dabei geht es unter anderem um die vom Bundesjustizministerium vorgeschlagene Gesetzgebung zur Schließung von Lücken im Strafrecht sowie um die durch Bund- und Länderhaushalte zu sichernde Finanzierung von Behörden- und Aufklärungsarbeit. UNICEF empfiehlt, den Bericht der Unabhängigen Kommission zum Digitalen Kinder- und Jugendschutz abzuwarten, um auf einer soliden wissenschaftlichen Basis die Rechte von Kindern und Jugendlichen im Netz zu stärken.

• Kinder stärken und unterstützen: Digitale Medienbildung muss fächerübergreifend in allen Bildungseinrichtungen verankert werden. Pädagogisches Personal und Eltern brauchen gezielte Qualifizierung. Kinder, die online Gewalt oder Mobbing erleben, brauchen verlässliche Anlaufstellen – verknüpft mit Jugendhilfe und psychologischer Unterstützung.

• Kinder beteiligen: Die Perspektiven und Erfahrungen der Kinder und Jugendlichen müssen in politische Entscheidungen und Regulierungen einfließen. Das Kindeswohl muss im Sinne der UN-Kinderrechtskonvention konsequent Vorrang haben.

• Altersbeschränkungen ausgewogen gestalten: Altersbeschränkungen für soziale Medien können die Sicherheit erhöhen, sind aber nur ein Baustein. Sie müssen verhältnismäßig sein, dürfen Kinder nicht von Bildungs- oder Hilfsangeboten ausschließen und sollten durch technische Schutzmechanismen ergänzt werden.

Hintergrund

UNICEF Deutschland hat eine ausführliche Stellungnahme an die von der Bundesregierung eingesetzte „Unabhängige Expertenkommission Kinder- und Jugendschutz in der digitalen Welt" übermittelt. Ziel der Kommission ist, eine Strategie mit konkreten Handlungsempfehlungen für Bund, Länder und Zivilgesellschaft zu entwickeln. Die Stellungnahme finden Sie hier. Die Position von UNICEF Deutschland zum digitalen Kinderschutz finden Sie zudem kompakt zusammengefasst im Policy Paper „Kinder- und Jugendschutz in der digitalen Welt".

Über UNICEF

UNICEF setzt sich weltweit – auch in Deutschland – für die Umsetzung der Rechte aller Kinder ein. Weitere Informationen: Kinderrechte in Deutschland & weltweit | UNICEF