Künstliche Intelligenz ist spätestens durch den Release von ChatGPT 3.5 vor 3 Jahren im gesellschaftlichen Diskurs angekommen. Seitdem haben sich verschiedene Modelle auf dem Markt etablieren können und bieten verschiedenste automatisierte Dienste an. In kürzester Zeit konnten sie sich auch in der Lebenswelt von Kindern verankern und dienen nun als Hausaufgaben-Helfer, kreatives Outlet oder Gesprächspartner.
Gleichzeitig sind damit auch neue Risiken in den Alltag der Kinder getreten, KI halluziniert Falschinformationen, bestätigt Vorurteile und stellt Nutzer*innenanfragen meist nicht in Frage. In den falschen Händen kann KI gar Missbrauchsdarstellungen erstellen, Erpressung und Betrug über soziale Medien vereinfachen oder Tipps zu selbstschädigendem Verhalten geben.
Wie werden die Kinderrechte in der KI-Verordnung der EU berücksichtigt?
Die EU hat frühzeitig auf diese Herausforderungen reagiert und die KI-Verordnung beschlossen. Diese fußt auf einem Risiko-basierten Ansatz, welcher unterschiedliche Anforderungen für KI-Modelle stellt, je nachdem wie hoch das Risiko des Einsatzes der Technologie ist. Dabei stehen die Verpflichtungen der EU-Grundrechte-Charta im Mittelpunkt und damit verbunden auch die Rechte der Kinder. Auf welche Art und Weise diese in der Verordnung berücksichtigt werden, hat Dr. Stephan Dreyer vom Hans-Bredow-Institut im Auftrag des Deutschen Kinderhilfswerks in diesem Gutachten herausgearbeitet.
Zusätzlich arbeitet das Gutachten erste Schritte für eine Advocacy-Strategie heraus, welche dazu dienen soll, die Kinderrechte stärker im Umsetzungsprozess der Verordnung zu berücksichtigen. Es werden die kinderrechtlichen Regulierungslücken in der Verordnung aufgezeigt, relevante Stakeholder identifiziert und Lobbyziele formuliert. Damit gibt das Gutachten einen Rahmen, welcher die Rolle von Kindern in einer KI-durchsetzten Welt stärken kann. NGOs sowie Institutionen können darauf zurückgreifen, um kinderrechtliche Aspekte in der KI-Regulierung besser zu berücksichtigen.
Das Gutachten wird zudem zeitnah in einer englischen Übersetzung vorliegen.
