Für Klicks gemacht, nicht für Kinder: Europas Kurs für mehr KI-Sicherheit zum Schutz von Minderjährigen

Während die EU einen regulatorischen Rahmen dafür schafft, wie KI mit Minderjährigen interagiert, stehen Unternehmen, die digitale Produkte entwickeln, vor einer konkreten Rechtspflicht und einer ethischen Frage, die nicht an das Compliance-Team delegiert werden kann.
 

Zweiundneunzig Prozent der Europäerinnen und Europäer halten den Schutz von Kindern im digitalen Raum für eine politische Priorität ersten Ranges — und genau diese Art von breitem, anhaltendem und parteiübergreifendem Konsens ist es, die sich in Regulierung verwandelt. In Europa ist das bereits geschehen. Für Unternehmen, Plattformen und alle, die digitale Produkte oder KI-gestützte Dienste entwickeln, lautet die Frage nicht mehr, ob dieses Thema ihre Geschäftstätigkeit betreffen wird, sondern wie viel es sie kosten wird, unvorbereitet zu sein, wenn die Behörden anklopfen. Hinter dem Compliance-Kalkül steht jedoch eine schwierigere Frage, die kein Gesetz vollständig beantworten kann: Wer trägt eigentlich die Verantwortung für den Schutz von Kindern in digitalen Räumen — und was verlangt diese Verantwortung von uns allen?

Die Zahlen hinter dem Regulierungsdruck

Die Datenlage ist schwer zu ignorieren und noch schwerer als Zufall abzutun. Zwischen 2018 und 2022 stieg der Anteil europäischer Jugendlicher mit Anzeichen problematischer Nutzung sozialer Medien von 7% auf 11%, wie eine WHO-Studie mit knapp 280.000 jungen Menschen aus 44 Ländern zeigt — ein Anstieg, der zu konsistent und zu weitverbreitet ist, um als statistisches Artefakt abgetan zu werden. Im Jahr 2024 gaben 97% der Jugendlichen in der EU an, täglich das Internet zu nutzen, und 65% der 15- bis 24-Jährigen nannten soziale Medien als ihre wichtigste Informationsquelle zu politischen und gesellschaftlichen Themen, so der Eurobarometer 2025. Anfang 2026 ergab eine gemeinsame Studie von UNICEF, ECPAT und INTERPOL in elf Ländern, dass mindestens 1,2 Millionen Kinder im vorangegangenen Jahr offenbart hatten, dass ihre Bilder für explizit sexuelle Deepfakes manipuliert worden waren — in manchen Ländern eines von 25 Kindern, also ein Kind pro Schulklasse.

Diese Zahlen sind kein zufälliges Nebenprodukt missbräuchlich eingesetzter Technologie. Sie sind zum großen Teil das dokumentierte Ergebnis von Systemen, die gezielt darauf ausgelegt wurden, die Verweildauer ohne sinnvolle Altersdifferenzierung zu maximieren. Die WHO/Europa hat das unmissverständlich festgestellt: Einige Funktionen von Social-Media-Plattformen wurden bewusst so gestaltet, dass der wirtschaftliche Gewinn vor dem Wohlbefinden junger Menschen steht. Diese Einschätzung, die von einer Behörde für öffentliche Gesundheit und nicht von einer digitalen Bürgerrechtsorganisation stammt, ist genau die Art von Rahmensetzung, die verbindlicher Gesetzgebung vorausgeht.

Die ethische Frage, die Regulierung allein nicht beantworten kann

Regulierung kann Mindeststandards setzen, aber sie kann nicht das Urteilsvermögen ersetzen, das bereits in der Designphase hätte angewandt werden sollen. Die Plattformen, die heute die Aufmerksamkeit junger Menschen dominieren, wurden nicht mit Blick auf Kinder entwickelt, und die Ingenieure, die ihre Algorithmen auf maximale Bindungswirkung optimiert haben, dachten in der Regel weder an die Hirnentwicklung von Jugendlichen noch an ihre Impulskontrolle. Das Ergebnis sind Systeme, die Inhalte in die Feeds von Kindern einspeisen, je nachdem, was sie am längsten auf der Plattform hält, und obwohl Altersbeschränkungen auf dem Papier existieren, hat das Europäische Parlament ausdrücklich auf die weitverbreitete Realität hingewiesen, dass Kinder Verifizierungssysteme umgehen — was bedeutet, dass die Regeln nur so gut sind wie die technische Architektur dahinter, und diese ist häufig unzureichend.

Die WHO/Europa hat die zentrale Asymmetrie mit ungewöhnlicher Klarheit formuliert: „Die psychische Gesundheit junger Menschen wird durch digitale Räume ebenso geprägt wie durch Schulen oder Familien — aber ohne denselben Schutz." Schulen arbeiten unter Schutzrahmen, Rechtspflichten und professionellen Verantwortungsstrukturen, die über Jahrzehnte aufgebaut wurden. Plattformen arbeiten unter Nutzungsbedingungen. Diese Asymmetrie zu schließen erfordert mehr als Geldbußen und Meldemechanismen: Es erfordert, dass Organisationen bewusste Entscheidungen darüber treffen, wie ihre Produkte gestaltet und eingesetzt werden — bevor ein Regulierer sie dazu zwingt.

Was das Gesetz jetzt verlangt

Die regulatorische Antwort Europas ist vielschichtig, weitreichend und wird zunehmend durchgesetzt. Der Digital Services Act (DSA), der seit Februar 2024 für alle Plattformen gilt, verbietet zielgerichtete Werbung gegenüber Minderjährigen und verpflichtet Plattformen, die für Kinder zugänglich sind, standardmäßig hohe Datenschutz- und Sicherheitsstandards anzuwenden, mit Geldbußen von bis zu 6% des weltweiten Jahresumsatzes bei Verstößen. Die Richtlinie über audiovisuelle Mediendienste (AVMD) schreibt Altersverifikation, elterliche Kontrolle und Inhaltsbewertungssysteme für Videoplattformen vor. Der KI-Act geht noch weiter und verbietet Systeme, die schutzbedürftige Nutzerinnen und Nutzer — einschließlich Kinder — manipulieren oder täuschen, und verlangt, dass KI-generierte Inhalte wie Deepfakes klar gekennzeichnet werden, mit Sanktionen für verbotene Praktiken von bis zu 35 Millionen Euro oder 7% des weltweiten Jahresumsatzes. Im November 2025 empfahl das Europäische Parlament ein EU-weites digitales Mindestalter von 16 Jahren für den Zugang zu sozialen Medien, Videoplattformen und KI-Begleitdiensten.

Die Durchsetzung ist entscheidend — und kein theoretisches Konstrukt mehr. Im Dezember 2025 verhängte die Kommission ihre erste Geldbuße nach dem DSA und belegte X mit 120 Millionen Euro wegen Verstößen gegen die Regeln zu irreführendem Design und Werbetransparenz — ein Signal, dass der regulatorische Rahmen Biss hat und bereit ist, ihn einzusetzen.

Die unternehmerische Realität

Die meisten Unternehmen behandeln Kinderschutz im Netz instinktiv als Problem der Inhaltsmoderation, das mit Filtern, Meldewerkzeugen und einem Trust-and-Safety-Team handhabbar ist. Die sich entwickelnde regulatorische Architektur der EU deutet auf etwas strukturell Anspruchsvolleres hin: Es handelt sich um ein Designproblem, ein KI-Governance-Problem und ein Datenschutzproblem, das auf Produktebene angegangen werden muss — nicht als nachträgliche Korrektur nach einem Compliance-Audit. Von Organisationen, die KI-Systeme entwickeln oder einsetzen, die Minderjährige erreichen oder betreffen könnten, wird zunehmend erwartet, dass sie nachweisen, dass diese Überlegung von Anfang an eingeflossen ist und nicht als Nachbesserung hinzugefügt wurde.

Das Marktsignal verstärkt das regulatorische. Laut dem Eurobarometer 2026 sind 80% der Europäerinnen und Europäer der Meinung, dass die KI-Entwicklung sorgfältig reguliert werden sollte, um Sicherheit zu gewährleisten, selbst wenn dies Einschränkungen für Entwickler bedeutet — was zeigt, dass das Publikum, dem diese Produkte dienen, vielen der Unternehmen, die es bedienen, bereits voraus ist. Das Vertrauen der Verbraucher in digitale Produkte, die den Schutz von Kindern nachweislich ernst nehmen, entwickelt sich zu einem Wettbewerbsvorteil, und die Organisationen, die das früh erkennen, werden nicht nur das regulatorische Umfeld reibungsloser navigieren, sondern auch Produkte mit einer stärkeren Grundlage öffentlicher Legitimität aufbauen.

Kinder in digitalen Räumen zu schützen ist kein Problem, das allein den Plattformen gehört, und kein Problem, das die Regulierung vollständig lösen wird. Es ist die Verantwortung jeder Organisation, die Systeme entwirft, einsetzt oder von ihnen profitiert, die heute so viel davon prägen, wie Kinder die Welt erleben.

---

---

Quellen

• Europäische Kommission. Der Schutz von Kindern online hat für 92% der Europäer höchste Priorität. Spezial-Eurobarometer zur Digitalen Dekade, 2026. digital-strategy.ec.europa.eu
• Eurostat. 97% der Jugendlichen in der EU nutzen das Internet täglich. 2025. ec.europa.eu/eurostat
• Europäisches Parlament. Jugend und soziale Medien. EPRS-Briefing, Februar 2025. europarl.europa.eu
• Europäisches Parlament. Schutz von Kindern im Internet. EPRS-Briefing, April 2025. europarl.europa.eu
• Europäisches Parlament. Kinder und Deepfakes. EPRS-Briefing, Juli 2025. europarl.europa.eu
• Europäisches Parlament. Kinder sollten für den Zugang zu sozialen Medien mindestens 16 Jahre alt sein. Pressemitteilung, 26. November 2025. europarl.europa.eu
• WHO/Europa & HBSC. Jugendliche, Bildschirme und psychische Gesundheit. September 2024. who.int/europe
• WHO/Europa. Online-Leben, offline Konsequenzen. Policy Brief, Mai 2025. who.int/europe
• UNICEF, ECPAT & INTERPOL. Disrupting Harm Phase 2 / Deepfake abuse is abuse. Februar 2026. unicef.org
• Gemeinsame Forschungsstelle der Europäischen Kommission. Nutzung sozialer Medien und psychische Gesundheit von Jugendlichen in der EU. JRC141047, 2024. publications.jrc.ec.europa.eu
• Europäische Kommission. Der Durchsetzungsrahmen des Digital Services Act. digital-strategy.ec.europa.eu
• Europäische Kommission. Kommission verhängt Geldbuße von 120 Millionen Euro gegen X nach dem Digital Services Act. Dezember 2025. commission.europa.eu
• Europäische Kommission. KI-Kompetenz — Fragen und Antworten. digital-strategy.ec.europa.eu
• Europäische Kommission. Schutz und Stärkung junger Menschen im Internet. digital-strategy.ec.europa.eu/en/policies/protecting-young-people-online
• Verordnung (EU) 2024/1689, Verordnung über Künstliche Intelligenz, Artikel 4, 5, 50 und 99.
• Verordnung (EU) 2022/2065, Gesetz über Digitale Dienste, Artikel 28, 52 und 74.