L’intelligenza artificiale (IA) influenza sempre più i contenuti che consumiamo e le decisioni che prendiamo. È quindi fondamentale considerare su quali dati si basano questi sistemi. Soprattutto dal punto di vista dei diritti dell’infanzia, onde evitare che le disuguaglianze vengano aggravate o che i minori subiscano discriminazioni.
La qualità e la composizione dei dati di addestramento dell’IA svolgono un ruolo centrale poiché influenzano in modo determinante i contenuti, i consigli o le decisioni generati dai sistemi di IA. Set di dati distorti o non rappresentativi possono produrre risultati discriminatori e rafforzare le disuguaglianze esistenti.
Il rischio di discriminazione è particolarmente elevato per i bambini le cui realtà di vita sono state finora prese in considerazione in misura insufficiente in molti set di dati. Si tratta, ad esempio, di bambini in situazioni di vulnerabilità. Il Comitato dell’ONU sui diritti dell’infanzia sottolinea che le tecnologie digitali possono aggravare le disuguaglianze esistenti se non si tiene adeguatamente conto delle realtà di vita e delle esigenze di questi bambini (Commento generale numero 25).
Dal punto di vista dei diritti dell’infanzia, è quindi fondamentale che i set di dati destinati ai sistemi di IA siano sviluppati secondo chiari criteri di protezione e sottoposti a controlli sistematici. È essenziale che i dati di addestramento siano privi di discriminazioni, rappresentativi e attentamente valutati per quanto riguarda il loro impatto sui minori.
Linee guida internazionali, ad esempio la UNICEF Guidance on AI and Children, sottolineano che occorre tenere conto dei rischi per i minori già in sede di rilevamento e di elaborazione dei dati. Ciò significa, in particolare, che i set di dati devono essere strutturati in modo tale da non contenere né riprodurre distorsioni discriminatorie, in modo da rappresentare adeguatamente la diversità delle realtà di vita dei bambini, da essere raccolti e trattati nel rispetto delle norme sulla protezione dei dati e da non contribuire alla valutazione o all’utilizzo commerciale dei profili dei bambini.
A fronte di questo scenario, l’UNICEF Svizzera e Liechtenstein sostiene in via di principio la richiesta di utilizzare set di dati affidabili e di alta qualità per l’addestramento dei sistemi di IA, come attualmente in discussione al Parlamento nazionale. Dal punto di vista della protezione dell’infanzia è decisivo che questi set di dati garantiscano la non discriminazione e assicurino la protezione dei minori.
Presupposti fondamentali sono:
- protezione rigorosa dei dati personali dei minori
- utilizzo di set di dati conformi alle norme sulla protezione dei dati e, per quanto possibile, anonimizzati
- misure efficaci per prevenire e verificare distorsioni discriminatorie
- garanzia che i set di dati non contribuiscano alla profilazione né all’uso commerciale delle informazioni sui minori
- organizzazione in linea con le future normative sull’IA
In tutte le misure connesse all’addestramento dell’IA, l’interesse superiore del minore, ai sensi dell’articolo 3 della Convenzione ONU sui diritti dell’infanzia, deve essere considerato prioritario.
L’UNICEF Svizzera e Liechtenstein sostiene l’utilizzo di set di dati affidabili per l’IA con la premessa che questi siano sistematicamente organizzati in modo da non penalizzare o discriminare i minori.