Künstliche Intelligenz ist spätestens durch den Release von ChatGPT 3.5 vor 3 Jahren im gesellschaftlichen Diskurs angekommen. Seitdem haben sich verschiedene Modelle auf dem Markt etablieren können und bieten verschiedenste automatisierte Dienste an. In kürzester Zeit konnten sie sich auch in der Lebenswelt von Kindern verankern und dienen nun als Hausaufgaben-Helfer, kreatives Outlet oder Gesprächspartner.
Gleichzeitig sind damit auch neue Risiken in den Alltag der Kinder getreten, KI halluziniert Falschinformationen, bestätigt Vorurteile und stellt Nutzer*innenanfragen meist nicht in Frage. In den falschen Händen kann KI gar Missbrauchsdarstellungen erstellen, Erpressung und Betrug über soziale Medien vereinfachen oder Tipps zu selbstschädigendem Verhalten geben.
Wie werden die Kinderrechte in der KI-Verordnung der EU berücksichtigt?
Die EU hat frühzeitig auf diese Herausforderungen reagiert und die KI-Verordnung beschlossen. Diese fußt auf einem Risiko-basierten Ansatz, welcher unterschiedliche Anforderungen für KI-Modelle stellt, je nachdem wie hoch das Risiko des Einsatzes der Technologie ist. Dabei stehen die Verpflichtungen der EU-Grundrechte-Charta im Mittelpunkt und damit verbunden auch die Rechte der Kinder. Auf welche Art und Weise diese in der Verordnung berücksichtigt werden, hat Dr. Stephan Dreyer vom Hans-Bredow-Institut im Auftrag des Deutschen Kinderhilfswerks in diesem Gutachten herausgearbeitet.
Gutachten herunterladen:
Die KI-Verordnung, ihr Verhältnis zu Kinderrechten im digitalen Raum und Optionen für Advocacy-Zugänge
Zusätzlich arbeitet das Gutachten erste Schritte für eine Advocacy-Strategie heraus, welche dazu dienen soll, die Kinderrechte stärker im Umsetzungsprozess der Verordnung zu berücksichtigen. Es werden die kinderrechtlichen Regulierungslücken in der Verordnung aufgezeigt, relevante Stakeholder identifiziert und Lobbyziele formuliert. Damit gibt das Gutachten einen Rahmen, welcher die Rolle von Kindern in einer KI-durchsetzzen Welt stärken kann. NGOs sowie Institutionen können darauf zurückgreifen, um kinderrechtliche Aspekte in der KI-Regulierung besser zu berücksichtigen.
Gutachten auch auf Englisch verfügbar / Translated documents available
With the legal expert opinion on "The AI Act, its Relation to Children’s Rights in Digital Environments and Options for Advocacy" the German Children's Fund analyses where and in what ways the EU's AI Act contains points of reference to children’s rights and outlines ways to enhance the recognition of children's rights within the document. Furthermore it identifies the resulting avenues for child rights oriented advocacy towards the AI Act.
The English version of the expert opinion can be downloaded here: Legal Report: The AI Act, its Relation to Children’s Rights in Digital Environments and Options for Advocacy
