Chat GPT, digitale Assistenten, generierte Fotos: Künstliche Intelligenz (KI) ist längst allgegenwärtig. Das betrifft auch die Rechte von Kindern. Welche Gefahren aber auch Chancen entstehen durch KI? Was müssen die Plattformbetreiber*innen und Gesetzgeber*innen tun, um Kinder zu schützen? Darüber spricht Martin Fischer, Referent für Medienpolitik beim Deutschen Kinderhilfswerk, im Interview.
KI wird momentan in allen Bereichen der Gesellschaft verankert. Ministerien, Verwaltungen und Schulen sind dazu angehalten, KI zu nutzen, um effektiver zu werden. Entscheidungen, die Kinder betreffen, könnten also künftig von einer KI getroffen werden. Die Lebenswelt von jungen Menschen ist also auf jeden Fall von diesen Entwicklungen betroffen.
Ja. Es gibt KI-Assistenten fürs Kinderzimmer, Kinder nutzen ChatGPT für ihre Hausaufgaben, und natürlich spielen auch die Empfehlungsalgorithmen eine große Rolle: auf Netflix, YouTube, Spotify, Instagram oder TikTok. Das sind Räume, in denen Kinder unterwegs sind und die schon von KI geprägt sind – aber bislang sind sie weitestgehend unreguliert. Hier sind dringend politische und gesellschaftliche Antworten gefragt.
Sie dürfen von diesen Entwicklungen jedenfalls nicht ausgegrenzt werden. KI kann Chancen für Kinder bieten. Sie kann zum Beispiel Bildung gerechter machen, wenn Kinder, die zu Hause beim Lernen wenig Unterstützung erhalten, eine KI zur Hilfe ziehen können. Wir sehen, dass Kinder neugierig sind und diese Technologien ausprobieren wollen – und das sollten sie auch können. Kinder können sehr kompetente KI-Nutzer*innen sein, wenn man sie früh dazu befähigt und ihnen die nötigen Kompetenzen an die Hand gibt.
KI verändert unter anderem den Zugang zu Informationen und die Art, wie wir Informationen konsumieren. Kinder haben ein Recht darauf, sich zu informieren und dafür das Internet zu nutzen. Das Problem ist, dass KI-Systeme im Moment oft noch Informationen mit wenig Wahrheitsgehalt ausspucken. Und andersherum muss man aufpassen, mit welchen Informationen die KI gefüttert wird. Was gebe ich über mich preis? Wie könnten die Bilder, die ich hochlade, manipuliert werden? All das muss man Kindern früh vermitteln.
Ob und wie Kinder sicher im Netz unterwegs sein können, darf keine Frage sein, die nur Eltern und Schulen beschäftigt! Die Politik muss dafür sorgen, dass die Rechte von Kindern im digitalen Raum geschützt werden. Dafür setzen wir uns gemeinsam mit vielen Partner*innen ein und betreiben Lobbyarbeit. Außerdem fördern wir Medienkompetenz-Projekte und erstellen kindgerechte Materialien, durch die Kinder einen sicheren Umgang mit Medien erlernen. Auf unserer Kinder-Internetseite Kindersache.de gibt es zum Beispiel ein großes Medienquiz und ein Spezial zum Thema Fake News, das Kindern hilft, Falschinformationen im Netz zu entlarven.
Ein großes Problem sind die sozialen Medien. Soziale Medien verzerren unser Bild von der Realität und KI befeuert das. Kindern und Jugendlichen werden zum Beispiel unrealistische Körperbilder vermittelt. Deepfakes sind ein großes Thema: Kinder und Jugendliche erstellen sexualisierende Darstellungen von Mitschüler*innen. Aber auch Radikalisierung wird gepusht. Die meisten sozialen Medien bevorzugen emotionalisierende und polarisierende Inhalte, weil die viele Interaktionen generieren. Das kann dazu führen, dass Kinder immer wieder denselben Inhalten ausgesetzt sind und es schwierig ist, dem zu entkommen.
Zunächst mal müssen die Kinderrechte überhaupt auf die Agenda! Es gibt zum Beispiel eine KI-Verordnung der EU, darin werden die Kinderrechte gar nicht erwähnt. Das zeigt: Kinder spielen keine übergeordnete Rolle. Das müssen sie aber. Ihre Rechte und Bedürfnisse müssen bei der Entwicklung von KI unbedingt berücksichtigt werden.
Plattformen tragen eine zentrale Verantwortung: Sie müssen digitale Räume so gestalten, dass Kinder sicher teilhaben können. Es geht darum, ihre Dienste kinderfreundlicher zu machen, zum Beispiel bei ihren Empfehlungsalgorithmen – denn nur so lässt sich das Recht auf digitale Teilhabe auch für Kinder und Jugendliche realisieren.
Wir Erwachsenen nutzen das Internet und die sozialen Medien, um uns auszutauschen und gesellschaftlich teilzuhaben. Dieses Recht haben Kinder auch – aber streng genommen sind diese Kommunikationswege für sie eigentlich gar nicht zugänglich. Viele Messenger und Social-Media-Apps sind erst ab 13 oder sogar erst ab 16 Jahren. Das hält Kinder aber nicht davon ab, Videos zum Beispiel auf TikTok hochzuladen. Sie haben das Bedürfnis, teilzuhaben, also gehen sie auf Plattformen, die für sie nicht gedacht sind.
Wir brauchen einheitlich angemessene, leicht verständliche Schutzmaßnahmen für Kinder und Jugendliche. Sie müssen befähigt werden, Plattformen und Inhalte sicher nutzen zu können. Das kann man zum Beispiel sicherstellen, indem Kinder bereits in den Entwicklungsprozess eingebunden werden. Damit die Plattformbetreiber*innen eine realistische Vorstellung bekommen, welche Risiken durch die kindliche Nutzung entstehen können – und diesen dann vorbeugen.
Neue Publikation des Deutschen Kinderhilfswerkes
Das Deutsche Kinderhilfswerk hat ein Rechtsgutachten in Auftrag gegeben, dass die EU-KI-Verordnung auf ihre kinderrechtlichen Anknüpfungspunkte analysiert und erste Schritte aufzeigt, wie die Kinderrechte besser in der Umsetzung der Verordnung berücksichtigt werden können.
Damit wir unsere Arbeit und Kommunikation noch besser an Ihren Bedürfnissen ausrichten können, laden wir Sie zur Teilnahme an einer Umfrage im Rahmen des Spendenmonitors ein. Nehmen Sie sich ein paar Minuten Zeit und unterstützen Sie uns mit Ihrer Einschätzung. Ihre Rückmeldung stärkt unsere Arbeit für Kinder.
Die Befragung ist anonym, sicher und datenschutzkonform.
Vielen Dank für Ihre Unterstützung!
