UNICEF äussert sich in einer Stellungnahme zu KI-generierten sexualisierten Bildern von Kindern. Die Organisation ist zunehmend alarmiert über Berichte über einen rasanten Anstieg solcher Inhalte, die im Umlauf sind, einschliesslich Fällen, in denen Fotografien von Kindern manipuliert und sexualisiert wurden.
«Deepfakes sind Bilder, Videos oder Audiodateien, die mithilfe Künstlicher Intelligenz (KI) erzeugt oder manipuliert werden und so gestaltet sind, dass sie real wirken. Sie werden zunehmend zur Herstellung sexualisierter Inhalte mit Kindern eingesetzt, unter anderem durch sogenannte «Nudifizierung». Dabei werden KI-Tools verwendet, um Kleidung auf Fotos zu entfernen oder zu verändern und so erfundene Nackt- oder sexualisierte Darstellungen zu erzeugen.
Neue Erkenntnisse bestätigen das Ausmass dieser schnell wachsenden Bedrohung: In einer Studie von UNICEF, ECPAT und INTERPOL* in elf Ländern gaben mindestens 1,2 Millionen Kinder an, dass ihre Bilder im vergangenen Jahr zu sexuell expliziten Deepfakes manipuliert worden seien. In einigen Ländern entspricht dies 1 von 25 Kindern – also einem Kind in einer typischen Schulklasse.
Kinder selbst sind sich dieses Risikos sehr bewusst. In einigen der an der Studie beteiligten Länder sagten bis zu zwei Drittel der Kinder, sie machten sich Sorgen darüber, dass KI zur Erstellung gefälschter sexueller Bilder oder Videos genutzt werden könnte. Das Ausmass dieser Besorgnis variiert stark zwischen den Ländern und unterstreicht den dringenden Bedarf an stärkerer Sensibilisierung sowie an wirksameren Präventions- und Schutzmassnahmen.
Wir müssen klar sein: Sexualisierte Bilder von Kindern, die mithilfe von KI-Tools erzeugt oder manipuliert wurden, sind Darstellungen von sexuellem Kindesmissbrauch (Child Sexual Abuse Material, CSAM). Deepfake-Missbrauch ist Missbrauch. Der Schaden, den er verursacht, ist real.
Wenn das Bild oder die Identität eines Kindes verwendet wird, wird dieses Kind direkt zum Opfer. Auch ohne identifizierbares Opfer normalisiert KI-generiertes Material zu sexuellem Kindesmissbrauch die sexuelle Ausbeutung von Kindern. Es befeuert die Nachfrage nach missbräuchlichen Inhalten. Zudem stellt es die Strafverfolgungsbehörden vor erhebliche Herausforderungen bei der Identifikation und dem Schutz von Kindern, die Hilfe benötigen.
UNICEF begrüsst ausdrücklich die Bemühungen jener KI-Entwickler, die «Safety-by-Design»-Ansätze und robuste Schutzmechanismen umsetzen, um den Missbrauch ihrer Systeme zu verhindern. Dennoch bleibt die Lage uneinheitlich, und zu viele KI-Modelle werden ohne ausreichende Schutzvorkehrungen entwickelt. Die Risiken können sich weiter verschärfen, wenn generative KI-Tools direkt in Social-Media-Plattformen integriert werden, wo sich manipulierte Bilder rasch verbreiten.
UNICEF ruft dringend zu folgenden Massnahmen auf, um der eskalierenden Bedrohung durch KI-generiertes Material zu sexuellem Kindesmissbrauch entgegenzutreten:
- Alle Regierungen müssen die Definitionen von Darstellungen sexuellen Kindesmissbrauchs (CSAM) auf KI-generierte Inhalte ausweiten und deren Herstellung, Beschaffung, Besitz und Verbreitung kriminalisieren.
- KI-Entwickler müssen «Safety-by-Design»-Ansätze und robuste Schutzmechanismen umsetzen, um den Missbrauch von KI-Modellen zu verhindern.
- Digitale Unternehmen müssen die Verbreitung von KI-generiertem Material zu sexuellem Kindesmissbrauch verhindern – und es nicht lediglich entfernen, nachdem der Missbrauch bereits stattgefunden hat. Zudem müssen sie die Moderation von Inhalten durch Investitionen in Erkennungstechnologien stärken. So kann entsprechendes Material unverzüglich entfernt werden und nicht erst Tage nach einer Meldung durch ein Opfer oder dessen Vertretung.
Der Schaden durch Deepfake-Missbrauch ist real und dringend. Kinder können nicht darauf warten, dass die Gesetzgebung Schritt hält.»