„Keine Plattform bekommt einen Freifahrtschein"
Premierminister Keir Starmer hat am Montag eine Ausweitung der britischen Online-Sicherheitsgesetze angekündigt. KI-Chatbots wie ChatGPT, Grok und andere fallen künftig unter den Online Safety Act – ein Gesetz, das bisher nur für Plattformen mit Nutzerinteraktion galt.
Kurz & Knapp
- KI-Chatbot-Anbieter müssen künftig illegale Inhalte verhindern oder mit Strafen rechnen
- Die Maßnahme schließt eine Gesetzeslücke, die durch den Grok-Deepfake-Skandal offengelegt wurde
- Weitere Pläne: Altersbeschränkungen für KI-Nutzung und Einschränkungen bei VPN-Zugang für Minderjährige
- „Infinite Scroll" wird als „schädliches Design" eingestuft – wie zuvor in der EU bei TikTok
- Die Regelungen folgen dem gleichen Gesetz, das Discord zur Altersverifikation zwingt
Der Grok-Skandal als Katalysator
Der direkte Auslöser für Starmers Ankündigung: Elon Musks KI-Chatbot Grok generierte wochenlang sexualisierte Bilder von Frauen und Kindern auf X. Die Funktion wurde nach internationalem Aufschrei entfernt – aber der Schaden war angerichtet.
„The action we took on Grok sent a clear message that no platform gets a free pass."
Die britische Medienaufsicht Ofcom hat bereits eine formelle Untersuchung gegen X und xAI eingeleitet. Die EU prüft parallel, ob Grok gegen den Digital Services Act verstößt.
Das Problem: Der Online Safety Act von 2023 regelte bisher nur Plattformen, auf denen Nutzer Inhalte miteinander teilen – also Social Media. Private Chatbots fielen durch das Raster. Diese Lücke wird jetzt geschlossen.
Was das konkret bedeutet
Die neuen Regeln werden als Änderung zum Crime and Policing Bill eingebracht. KI-Anbieter müssen:
- Verhindern, dass ihre Systeme illegale Inhalte generieren
- Sexualisierte Bilder ohne Zustimmung der abgebildeten Person blockieren
- Den Jugendschutz-Anforderungen des Online Safety Act entsprechen
Bei Verstößen drohen Strafen. Welche genau, ist noch nicht spezifiziert – aber der Online Safety Act sieht Bußgelder von bis zu 10% des weltweiten Jahresumsatzes vor.
Infinite Scroll als „schädliches Design"
Neben KI-Chatbots nimmt die Regierung auch klassische Social-Media-Mechaniken ins Visier. Nach dem Vorbild der EU, die TikToks Infinite Scroll als Verstoß gegen den Digital Services Act einstufte, will Großbritannien ähnliche Maßnahmen einführen.
Die Argumentation: Endloses Scrollen sei „suchtförderndes Design", das besonders Minderjährige gefährdet.
„I see this in the way many parents do, with a real sense of concern about the time that's spent on social media, the addictive nature of a lot of what's happening."
Zusätzlich plant die Regierung:
- Altersbeschränkungen für KI-Nutzung – Details stehen noch aus
- Einschränkungen beim VPN-Zugang für Minderjährige – technisch schwer umsetzbar
- Verpflichtende Datensicherung bei Todesfällen von Kindern mit möglichem Online-Bezug
Der Zusammenhang mit Discord und Co.
Die Ankündigung reiht sich in eine Welle von Regulierungsmaßnahmen ein, die Gaming-Plattformen direkt betrifft. Der Online Safety Act ist derselbe Grund, warum Discord ab März eine globale Altersverifikation einführt – UK-Nutzer mussten sich bereits seit Juli 2025 verifizieren.
Die Chronologie der letzten Monate:
- Juli 2025: Online Safety Act tritt für große Plattformen in Kraft
- Oktober 2025: Datenleck bei Discord-Verifikationspartner – 70.000 Ausweisfotos betroffen
- November 2025: Roblox kündigt Gesichtserkennung für Chat-Zugang an
- Januar 2026: Australien verbannt unter 16-Jährige von Social Media
- Februar 2026: Discord weitet Altersverifikation global aus, UK verschärft KI-Regeln
Imgur hat UK-Nutzer bereits komplett ausgesperrt, anstatt die Verifikationsanforderungen umzusetzen. Einige Pornografie-Websites taten dasselbe.
Die Kritik: Kollateralschäden für alle
Während Kinderschutzorganisationen wie die NSPCC die Maßnahmen begrüßen, warnen Kritiker vor unbeabsichtigten Folgen. Altersverifikation und Content-Filterung betreffen zwangsläufig auch Erwachsene – und schaffen neue Datenschutzrisiken.
Die Gegenmaßnahmen der Nutzer sind bekannt: VPNs umgehen geografische Sperren problemlos. Discords Gesichtserkennung wurde innerhalb von Tagen mit 3D-Modellen ausgetrickst. Und je mehr Plattformen Ausweisdaten sammeln, desto attraktiver werden sie für Hacker.
Starmer selbst räumt ein, dass die Technologie schneller voranschreitet als die Gesetzgebung. Die Lösung seiner Regierung: Mehr Befugnisse, um ohne neue Gesetze reagieren zu können. Das Children's Wellbeing and Schools Bill soll genau das ermöglichen.
Was kommt als Nächstes?
Die britische Regierung plant Konsultationen mit Eltern und Kindern, bevor die Maßnahmen im Parlament zur Abstimmung kommen. Sowohl Labour als auch die konservativen Tories befürworten ein Social-Media-Verbot für unter 16-Jährige.
In den USA läuft parallel ein Prozess gegen Meta und YouTube in Los Angeles, der klären soll, ob Instagram absichtlich süchtig macht.
Die Frage, die sich durch all diese Entwicklungen zieht: Wie viel Kontrolle über Online-Räume ist im Namen des Jugendschutzes akzeptabel – und wer trägt die Kosten, wenn Regulierung und Realität kollidieren?