Generative KI hat nicht nur im Berufsalltag, sondern auch längst im Kinderzimmer und der Schule Einzug gehalten - sei es mit persönlichen Chat-Assistenten und Bildgeneratoren. Doch generative KI spielt auch in vielen anderen Bereichen eine gewichtige Rolle.
Mit der rechtswissenschaftlichen gutachterlichen Stellungnahme "Gesetzeskonforme Nutzbarkeit biometrischer Kinderdaten als KI-Trainingsdaten und in KI-gesteuerten Entscheidungsprozessen" nimmt das Deutsche Kinderhilfswerk dabei drei Bereiche mit besonderem Schutzbedarf von Kindern und Jugendlichen ins Augenmerk: Grenzkontrollen, Krankheitsdiagnosen und Schulalltag.
Hier können Sie sich das Gutachten herunterladen:
KI-Training nutzt auch besonders schützenswerte Daten
Eine wichtige Grundlage für den wirksamen Einsatz von KI bildet dabei das KI-Training, bei dem ein Computermodell durch die Analyse großer Datenmengen lernt, Muster zu erkennen, Vorhersagen zu treffen oder Entscheidungen zu fällen. Dafür werden Datensätze wie Texte, Bilder und andere Formen von Daten genutzt. Da diese Daten im offenen Netz gesammelt wurden, finden sich darunter auch besonders schützenswerte Daten von Kindern, z.B. Bilder, Adressen oder Kontaktdaten.
Das Gutachten des Deutschen Kinderhilfswerkes hat eine besondere Form dieser Daten herausgegriffen, nämlich die biometrischen Daten. Biometrische Daten können z.B. Fingerabdrücke oder Iris-Scans sein, also biologische Merkmale, die uns eindeutig identifizierbar machen. Besonders bekannt sind sie durch die automatisierte Gesichtserkennung. Schwierig dabei ist, dass diese Daten sich im Laufe des Lebens kaum bzw. nur selten verändern.
Datenschutzgrundverordnung gibt Nutzer*innen Kontrolle über ihre Daten
Die rechtswissenschaftliche gutachterliche Stellungnahme stellt dar, wie der Umgang mit der Verarbeitung biometrischer Kinderdaten durch KI aus juristischer Perspektive zu betrachten ist. Dabei stehen insbesondere die Datenschutzgrundverordnung und die KI-Verordnung im Mittelpunkt, die den rechtlichen Rahmen bilden, in welchem diese Daten genutzt werden dürfen. Die Datenschutzgrundverordnung gibt Nutzer*innen und somit auch Kindern die Kontrolle über ihre Daten und zwar durch eine explizite Einwilligung zur Verarbeitung ihrer Daten. Die KI-Verordnung gewährt Ausnahmen aber auch Auflagen zum Einsatz solcher Technologien für bestimmte Einsatzzwecke. Wie diese Balance gewahrt wird und dies juristisch zu bewerten ist, findet sich im Gutachten.
Dazu werden zudem drei Schwerpunktthemen aufgegriffen, die durch ihren Lebensweltbezug und ihre Rolle für das sichere Aufwachsen von Kindern hervorstechen.
- In Grenzkontrollen wird KI eingesetzt, um das Alter von jungen Asylsuchenden zu ermessen. Damit verbunden können die besonderen Schutzaspekte für Minderjährige zu- oder aberkannt werden.
- In der Medizin kann KI für die Frühdiagnose von Krankheiten eingesetzt werden. Dafür sind allerdings höchstpersönliche Daten zum Training der Anwendungen notwendig.
- KI lässt uns nicht nur die Rolle von Hausaufgaben in der Schule hinterfragen. Sie kann ebenfalls als Lernbegleitung eingesetzt werden oder als Disziplinierungswerkzeug. Unterschiedliche Einsatzzwecke müssen dabei unterschiedliche Rahmenbedingungen einhalten.
Blick aus kinderrechtlicher Perspektive
Darüber hinaus haben wir einen Blick auf das Thema aus kinderrechtlicher Perspektive geworfen - insbesondere auf die Aspekte Schutz, Befähigung und Teilhabe. Welchen Mehrwert haben Kinder durch KI-Anwendungen, insbesondere, wenn diese für Kinder gemacht sind? Wie können sie durch KI-Anwendungen unterstützt werden? Werden Kinder bei der Erstellung von KI-Tool und in der Nutzung diesen Tools ausreichend geschützt?
Hier können Sie sich die kinderrechtliche Einordnung zum Gutachten herunterladen:
Der aktive Einsatz von KI-Tools wirft neben den juristischen Herausforderungen auch technische und moralische Fragen auf. Besonders schwer wiegt dabei, dass diese Daten eine Person wahrscheinlich lebenslang identifizierbar machen und gleichzeitig die Verarbeitung im KI-Training Daten irreversibel miteinander verknüpft, so dass bei fehlender Einwilligung auch kein Widerspruch umgesetzt werden kann. Wie kinderrechtliche Leitplanken noch eingezogen werden können, nachdem die Kontrolle über die Daten bereits aus der Hand gegeben wurde, wird im Rahmen der kinderrechtlichen Einordnung skizziert.
Gutachten Kinderrechte und die KI-Verordnung
Das Deutsche Kinderhilfswerk hat bereits im vergangenen Jahr ein Rechtsgutachten in Auftrag gegeben, dass die EU-KI-Verordnung auf ihre kinderrechtlichen Anknüpfungspunkte analysiert und erste Schritte für eine Advocacy-Strategie setzt, mit welcher die Kinderrechte besser in der Umsetzung der Verordnung berücksichtigt werden können.
Mehr dazu finden Sie hier: Gutachten Kinderrechte und KI: Deutsches Kinderhilfswerk
Gutachten auch auf Englisch verfügbar / Translated documents available
With the legal expert opinion on "Legally Compliant Use of Children’s Biometric Data as AI training Data and in AI-Driven Decision-Making Processes" the German Children's Fund takes a look from a data protection perspective at the connection of AI-tools and the digital realities of children. To connect these two subjects the text looks at biometric data. Biometric data is information that makes a person uniquely identifiable and is linked to physiological features of an individual, like fingerprints, retina scans or their facial structure. Once biometric data is used to train an AI model, it is irrevocably entwined with its decision-making structure. The aim of the expert opinion is to showcase risks and opportunities from using biometric data of children in the context of AI, with special regards to particularly sensitive uses in border controls, health services and school.
The English version of the expert opinion can be downloaded here: Legal expert opinion
The use of AI tools additional requires technical and moral considerations from a children's rights perspective. Particularly relevant is that biometric data in most cases will not change of the course of the life. Tied to the fact that once trained data is near impossible to remove from the decision-making structure of AI creates a challenging situation to process biometric children’s data within AI. What kind of guardrails are needed and how to claim back control over already trained data are some of the points discussed in the children’s rights assessment of the expert opinion.
The English version of the children’s rights assessment can be downloaded here: Children's rights assessment of the expert opinion
