Chat GPT, digitale Assistenten, generierte Fotos: Künstliche Intelligenz (KI) ist längst allgegenwärtig. Das betrifft auch die Rechte von Kindern. Welche Gefahren aber auch Chancen entstehen durch KI? Was müssen die Plattformbetreiber*innen und Gesetzgeber*innen tun, um Kinder zu schützen? Darüber spricht Martin Fischer, Referent für Medienpolitik beim Deutschen Kinderhilfswerk, im Interview.
KI wird momentan in allen Bereichen der Gesellschaft verankert. Ministerien, Verwaltungen und Schulen sind dazu angehalten, KI zu nutzen, um effektiver zu werden. Entscheidungen, die Kinder betreffen, könnten also künftig von einer KI getroffen werden. Die Lebenswelt von jungen Menschen ist also auf jeden Fall von diesen Entwicklungen betroffen.
Ja. Es gibt KI-Assistenten fürs Kinderzimmer, Kinder nutzen ChatGPT für ihre Hausaufgaben, und natürlich spielen auch die Empfehlungsalgorithmen eine große Rolle: auf Netflix, YouTube, Spotify, Instagram oder TikTok. Das sind Räume, in denen Kinder unterwegs sind und die schon von KI geprägt sind – aber bislang sind sie weitestgehend unreguliert. Hier sind dringend politische und gesellschaftliche Antworten gefragt.
Sie dürfen von diesen Entwicklungen jedenfalls nicht ausgegrenzt werden. KI kann Chancen für Kinder bieten. Sie kann zum Beispiel Bildung gerechter machen, wenn Kinder, die zu Hause beim Lernen wenig Unterstützung erhalten, eine KI zur Hilfe ziehen können. Wir sehen, dass Kinder neugierig sind und diese Technologien ausprobieren wollen – und das sollten sie auch können. Kinder können sehr kompetente KI-Nutzer*innen sein, wenn man sie früh dazu befähigt und ihnen die nötigen Kompetenzen an die Hand gibt.
KI verändert unter anderem den Zugang zu Informationen und die Art, wie wir Informationen konsumieren. Kinder haben ein Recht darauf, sich zu informieren und dafür das Internet zu nutzen. Das Problem ist, dass KI-Systeme im Moment oft noch Informationen mit wenig Wahrheitsgehalt ausspucken. Und andersherum muss man aufpassen, mit welchen Informationen die KI gefüttert wird. Was gebe ich über mich preis? Wie könnten die Bilder, die ich hochlade, manipuliert werden? All das muss man Kindern früh vermitteln.
Ob und wie Kinder sicher im Netz unterwegs sein können, darf keine Frage sein, die nur Eltern und Schulen beschäftigt! Die Politik muss dafür sorgen, dass die Rechte von Kindern im digitalen Raum geschützt werden. Dafür setzen wir uns gemeinsam mit vielen Partner*innen ein und betreiben Lobbyarbeit. Außerdem fördern wir Medienkompetenz-Projekte und erstellen kindgerechte Materialien, durch die Kinder einen sicheren Umgang mit Medien erlernen. Auf unserer Kinder-Internetseite Kindersache.de gibt es zum Beispiel ein großes Medienquiz und ein Spezial zum Thema Fake News, das Kindern hilft, Falschinformationen im Netz zu entlarven.
Ein großes Problem sind die sozialen Medien. Soziale Medien verzerren unser Bild von der Realität und KI befeuert das. Kindern und Jugendlichen werden zum Beispiel unrealistische Körperbilder vermittelt. Deepfakes sind ein großes Thema: Kinder und Jugendliche erstellen sexualisierende Darstellungen von Mitschüler*innen. Aber auch Radikalisierung wird gepusht. Die meisten sozialen Medien bevorzugen emotionalisierende und polarisierende Inhalte, weil die viele Interaktionen generieren. Das kann dazu führen, dass Kinder immer wieder denselben Inhalten ausgesetzt sind und es schwierig ist, dem zu entkommen.
Zunächst mal müssen die Kinderrechte überhaupt auf die Agenda! Es gibt zum Beispiel eine KI-Verordnung der EU, darin werden die Kinderrechte gar nicht erwähnt. Das zeigt: Kinder spielen keine übergeordnete Rolle. Das müssen sie aber. Ihre Rechte und Bedürfnisse müssen bei der Entwicklung von KI unbedingt berücksichtigt werden.
Plattformen tragen eine zentrale Verantwortung: Sie müssen digitale Räume so gestalten, dass Kinder sicher teilhaben können. Es geht darum, ihre Dienste kinderfreundlicher zu machen, zum Beispiel bei ihren Empfehlungsalgorithmen – denn nur so lässt sich das Recht auf digitale Teilhabe auch für Kinder und Jugendliche realisieren.
Wir Erwachsenen nutzen das Internet und die sozialen Medien, um uns auszutauschen und gesellschaftlich teilzuhaben. Dieses Recht haben Kinder auch – aber streng genommen sind diese Kommunikationswege für sie eigentlich gar nicht zugänglich. Viele Messenger und Social-Media-Apps sind erst ab 13 oder sogar erst ab 16 Jahren. Das hält Kinder aber nicht davon ab, Videos zum Beispiel auf TikTok hochzuladen. Sie haben das Bedürfnis, teilzuhaben, also gehen sie auf Plattformen, die für sie nicht gedacht sind.
Wir brauchen einheitlich angemessene, leicht verständliche Schutzmaßnahmen für Kinder und Jugendliche. Sie müssen befähigt werden, Plattformen und Inhalte sicher nutzen zu können. Das kann man zum Beispiel sicherstellen, indem Kinder bereits in den Entwicklungsprozess eingebunden werden. Damit die Plattformbetreiber*innen eine realistische Vorstellung bekommen, welche Risiken durch die kindliche Nutzung entstehen können – und diesen dann vorbeugen.
Publikationen des Deutschen Kinderhilfswerkes zum Thema Kinderrechte und KI
Das Deutsche Kinderhilfswerk hat ein Rechtsgutachten in Auftrag gegeben, dass die EU-KI-Verordnung auf ihre kinderrechtlichen Anknüpfungspunkte analysiert und erste Schritte aufzeigt, wie die Kinderrechte besser in der Umsetzung der Verordnung berücksichtigt werden können.
Mit dem Gutachten legt das Deutsche Kinderhilfswerk einen datenschutzrechtlichen Blick auf einen wichtigen Verbindungspunkt zwischen KI-Anwendungen und der Lebenswelt von Kindern. Denn sind biometrische Daten erstmal im einem KI-System, können sie nicht mehr verlässlich entfernt werden.
Gutachten herunterladen Kinderrechtliche Einordnung zum Gutachten herunterladen
With the legal expert opinion on "Legally Compliant Use of Children’s Biometric Data as AI training Data and in AI-Driven Decision-Making Processes" the German Children's Fund takes a look from a data protection perspective at the connection of AI-tools and the digital realities of children. To connect these two subjects the text looks at biometric data. The aim of the expert opinion is to showcase risks and opportunities from using biometric data of children in the context of AI, with special regards to particularly sensitive uses in border controls, health services and school.
The use of AI tools additional requires technical and moral considerations from a children's rights perspective. What kind of guardrails are needed and how to claim back control over already trained data are some of the points discussed in the children’s rights assessment of the expert opinion.
