Les abus commis au moyen d’images hypertruquées restent des abus

Les deepfakes (ou hypertrucages) – des images, vidéos ou contenus audio générés ou manipulés avec l’intelligence artificielle (IA) et conçus pour être perçus comme authentiques – sont de plus en plus utilisés pour produire des contenus à caractère sexuel impliquant des enfants, notamment au moyen de la « nudification » par IA, une pratique qui consiste à enlever ou modifier les vêtements sur des photos afin de fabriquer des images dénudées ou sexualisées. 

De nouvelles données probantes viennent confirmer l’ampleur de cette menace en forte croissance : une enquête menée par l’UNICEF, ECPAT et INTERPOL* dans 11 pays révèle qu’au moins 1,2 million d'enfants auraient été victimes de cette pratique au cours de l’année passée, leurs images ayant été détournées en deepfakes à caractère sexuellement explicite. Dans certains pays, 1 enfant sur 25 serait ainsi concerné par ces hypertrucages, soit sensiblement l'équivalent d'un enfant par classe.

Pleinement conscients de ce risque, jusqu’à deux tiers des enfants interrogés dans certains des pays étudiés ont déclaré s’inquiéter du fait que l'IA puisse créer des images d’eux à caractère sexuel. Si le niveau de préoccupation varie considérablement d'un pays à l'autre, il souligne néanmoins le besoin urgent de renforcer les mesures de sensibilisation, de prévention et de protection dans ce domaine.

Il convient de le rappeler clairement : les images d’enfants à caractère sexuel générées ou manipulées à l’aide d’outils d'IA ne sont autres que des contenus montrant des abus sexuels sur enfant. Les abus commis au moyen d’images hypertruquées restent des abus, et les préjudices qu’ils entraînent sont tout sauf fictifs. 

Toute utilisation abusive de l’image ou de l’identité d’un enfant constitue une atteinte dont l’enfant est directement victime. Même lorsqu’aucune victime n’est identifiable, ces hypertrucages tendent à normaliser l’exploitation sexuelle des enfants, à alimenter la demande de contenus abusifs et à rendre l’identification et la protection des enfants ayant besoin d’aide particulièrement difficiles pour les services d’application de la loi. 

L’UNICEF salue donc vivement les efforts déployés par les développeurs d'IA qui adoptent dès la conception de leurs outils une approche axée sur la sécurité ainsi que des garde-fous solides pour prévenir l’utilisation abusive de leurs systèmes. Néanmoins, le secteur reste hétérogène, et un trop grand nombre de modèles d’IA sont encore conçus sans mécanismes de protection appropriés. Les risques tendent par ailleurs à se multiplier lorsque les outils d'IA générative sont directement intégrés aux plateformes de médias sociaux, où les images ainsi manipulées se propagent rapidement. 

Aussi, pour répondre à la menace grandissante que représentent les contenus générés par l’IA montrant des abus sexuels sur enfant, l’UNICEF appelle à la mise en œuvre sans délai des mesures suivantes :

• Pour les gouvernements : élargir la définition des contenus montrant des abus sexuels sur enfant pour y inclure les contenus générés par l'IA, et criminaliser leur création, leur acquisition, leur détention et leur diffusion.
• Pour les développeurs d’IA : mettre en place des systèmes de sûreté et de garde‑fous robustes dès la phase de conception des outils afin d’empêcher toute utilisation abusive des modèles d'IA.
• Pour les entreprises du numérique : prévenir la circulation de contenus générés par l’IA montrant des abus sexuels sur enfant, plutôt que de se limiter à leur retrait une fois l’abus constaté, et renforcer la modération des contenus en investissant dans des technologies de détection permettant leur suppression immédiate, et non plusieurs jours après le signalement par la victime ou son représentant. 

Les préjudices causés par les abus commis au moyen d’hypertrucages sont bien réels et requièrent une réponse urgente. La protection des enfants ne saurait dépendre de la seule mise à jour du cadre juridique. »