L’intelligence artificielle (IA) a une influence croissante sur la nature des contenus que nous consommons et la nature des décisions que nous prenons. C’est pourquoi il est crucial d’appréhender les données à la base de l’IA. Il s’agit en l’occurrence d’adopter une perspective soucieuse des droits de l’enfant et d’empêcher l’accentuation des inégalités ou encore la discrimination des enfants.
Or, la qualité et la composition des données d’apprentissage de l’IA jouent un rôle central puisqu’elles ont un impact considérable sur la nature des contenus, des recommandations et des décisions que génèrent les systèmes d’IA. C’est ainsi que des ensembles de données biaisées ou non représentatives sont susceptibles de produire des résultats discriminatoires et d’accentuer les inégalités existantes.
Le risque d’une discrimination à l’encontre d’enfants se manifeste en particulier pour ceux dont les réalités de la vie n’ont jusqu’à présent pas été suffisamment prises en compte dans de nombreux ensembles de données. C’est notamment le cas d’enfants en situation vulnérable. Le Comité des droits de l’enfant des Nations Unies signale que les technologies numériques sont susceptibles de renforcer les disparités existantes si les réalités de la vie et les besoins de ces enfants ne sont pas pris en considération de manière adéquate (Observation générale n° 25).
Si l’on part d’une perspective soucieuse des droits de l’enfant, il est donc capital que les ensembles de données destinés aux systèmes d’IA soient développés et systématiquement contrôlés dans le cadre de directives de protection clairement définies. Plus précisément, les données d’apprentissage doivent être non discriminatoires, représentatives et contrôlées rigoureusement quant à leurs effets sur les enfants.
Des directives internationales tels que le document UNICEF Guidance on AI and Children soulignent que les risques pour les enfants doivent être pris en compte dès la collecte et le traitement des données. Cela signifie plus précisément que les ensembles de données sont à élaborer de sorte que la présence ou la reproduction de biais discriminatoires soient exclues. En outre, ces données doivent refléter adéquatement les réalités de la vie des enfants, être collectées et traitées en conformité avec la protection des données. Enfin, elles ne doivent pas être exploitées pour l’étude ou l’usage à des fins commerciales de profils d’enfants.
Dans ce contexte, UNICEF Suisse et Liechtenstein soutient les exigences portant sur l’utilisation de données de qualité supérieure et dignes de confiance destinées à l’apprentissage des systèmes d’IA, sujet débattu actuellement au Parlement. Dans une perspective soucieuse des droits de l’enfant, il est essentiel que les ensembles de données garantissent une non-discrimination et la protection des enfants.
Des conditions importantes doivent être réunies à cet effet:
- Protection systématique des données personnelles d’enfants
- Utilisation d’ensembles de données conformes à la protection des données et anonymisés au maximum
- Mesures efficaces permettant d’éviter et de vérifier les biais discriminatoires
- S’assurer que les ensembles de données ne contribuent pas à la constitution de profils ou à l’exploitation commerciale d’informations sur les enfants
- Élaboration des données conformément aux futurs règlements de l’IA
Pour toutes ces mesures en rapport avec l’apprentissage de l’IA, il faut accorder une attention prioritaire à l’intérêt supérieur de l’enfant, comme le stipule l’art. 3 de la Convention des Nations Unies relative aux droits de l’enfant.
UNICEF Suisse et Liechtenstein soutient l’exploitation d’ensembles de données dignes de confiance destinées à l’IA, à la condition que ces données soient systématiquement conçues de manière que les enfants ne soient pas désavantagés ni exposés à des discriminations.