Künstliche Intelligenz (KI) beeinflusst zunehmend, welche Inhalte wir konsumieren und welche Entscheidungen wir treffen. Daher ist entscheidend, auf welchen Daten diese Systeme basieren. Insbesondere aus kinderrechtlicher Perspektive, um zu verhindern, dass Ungleichheiten verstärkt oder Kinder diskriminiert werden.
Die Qualität und Zusammensetzung der Trainingsdaten von KI spielen eine zentrale Rolle, da sie massgeblich beeinflussen, welche Inhalte, Empfehlungen oder Entscheidungen KI-Systeme hervorbringen. Verzerrte oder nicht repräsentative Datensätze können diskriminierende Ergebnisse erzeugen und bestehende Ungleichheiten verstärken.
Die Gefahr von Diskriminierung entsteht insbesondere für Kinder, deren Lebensrealitäten in vielen Datensätzen bislang unzureichend berücksichtigt sind. Das sind beispielsweise Kinder in vulnerablen Situationen. Der UN-Kinderrechtsausschuss weist darauf hin, dass digitale Technologien bestehende Ungleichheiten verstärken können, wenn die Lebensrealitäten und Bedürfnisse dieser Kinder nicht angemessen berücksichtigt werden (General Comment No. 25).
Aus kinderrechtlicher Perspektive ist daher entscheidend, dass Datensätze für KI-Systeme unter klaren Schutzvorgaben entwickelt und systematisch geprüft werden. Im Zentrum steht, dass Trainingsdaten diskriminierungsfrei, repräsentativ und hinsichtlich ihrer Auswirkungen auf Kinder sorgfältig geprüft werden.
Internationale Leitlinien, etwa die UNICEF Guidance on AI and Children, betonen, dass Risiken für Kinder bereits bei der Datenerhebung und -aufbereitung berücksichtigt werden müssen. Das bedeutet insbesondere, dass Datensätze so ausgestaltet werden müssen, dass sie keine diskriminierenden Verzerrungen enthalten oder reproduzieren, die Vielfalt von Lebensrealitäten von Kindern angemessen abbilden, datenschutzkonform erhoben und verarbeitet werden sowie nicht zur Auswertung oder kommerziellen Nutzung von Kinderprofilen beitragen.
Vor diesem Hintergrund unterstützt UNICEF Schweiz und Liechtenstein grundsätzlich Forderungen, qualitativ hochwertige und vertrauenswürdige Datensätze für das Training KI-Systeme zu nutzen, wie es aktuell im nationalen Parlament diskutiert wird. Aus kinderrechtlicher Perspektive ist entscheidend, dass diese Datensätze Nichtdiskriminierung gewährleisten und den Schutz von Kindern sicherstellen.
Zentrale Voraussetzungen dafür sind:
- Konsequenter Schutz personenbezogener Daten von Kindern
- Verwendung datenschutzkonformer und möglichst anonymisierter Datensätze
- Wirksame Massnahmen zur Vermeidung und Überprüfung diskriminierender Verzerrungen
- Sicherstellung, dass Datensätze nicht zur Profilbildung oder kommerziellen Nutzung von Kinderinformationen beitragen
- Ausgestaltung im Einklang mit zukünftigen KI-Regulierungen
Bei allen Massnahmen im Zusammenhang mit dem Training von KI muss das übergeordnete Kindesinteresse gemäss Art. 3 der UN-Kinderrechtskonvention vorrangig berücksichtigt werden.
UNICEF Schweiz und Liechtenstein unterstützt die Nutzung vertrauenswürdiger Datensätze für KI unter der Voraussetzung, dass diese systematisch so ausgestaltet sind, dass sie Kinder nicht benachteiligen oder diskriminieren.