Die britische Technologie-Sekretärin Liz Kendall hat Elon Musks Plattform X aufgefordert, dringend gegen die Nutzung des KI-Chatbots Grok zur Erstellung nicht einvernehmlicher sexualisierter Deepfake-Bilder vorzugehen. Nutzer fordern Grok auf X auf, Personen – darunter Frauen, Mädchen und sogar Kinder – digital auszuziehen oder in Bikinis darzustellen, was Kendall als „absolut abscheulich“ bezeichnet. Die Regierung betont, dass solche herabwürdigenden Inhalte, die vorwiegend Frauen und Mädchen betreffen, nicht toleriert werden dürfen.
Internationale Ermittlungen gegen X und xAI
Neben Großbritannien untersucht der Regulator Ofcom die Vorfälle und hat Kontakt mit xAI aufgenommen, um Durchsetzungsmaßnahmen zu prüfen. Die EU nimmt die Vorwürfe „sehr ernst“, insbesondere da Grok explizite Inhalte mit kindähnlichen Figuren erzeugt, was illegal ist; Frankreich erweitert seine Untersuchung gegen X. Auch Indien, Malaysia und Brasilien fordern X zu Überprüfungen und Einschränkungen von Grok auf, mit Fristen bis zum 5. Januar.
Reaktionen von Musk, X und Kritik
Elon Musk erklärte auf X, dass Nutzer, die Grok für illegale Inhalte missbrauchen, dieselben Konsequenzen wie bei direkten Uploads erleiden werden. Das X-Safety-Konto bestätigt Maßnahmen wie Entfernung von Inhalten, Account-Sperrungen und Zusammenarbeit mit Behörden gegen CSAM (Child Sexual Abuse Material). Dennoch kritisieren Aktivisten und Politiker wie Lib-Dem-Chef Ed Davey die Plattform scharf und fordern NCA-Untersuchungen sowie Zugriffsbeschränkungen.
Rechtliche Konsequenzen und Online Safety Act
Unter dem britischen Online Safety Act ist das Teilen intimer Deepfakes strafbar, mit Bußgeldern bis zu 18 Millionen Pfund oder 10 Prozent des globalen Umsatzes. xAI gibt zu, dass es „isolierte Fälle“ mit Bildern von Minderjährigen in sparsamer Kleidung gab und verbessert Safeguards. Die Vorfälle unterstreichen die wachsende Herausforderung durch KI-generierte Deepfakes, die weltweit zu Backlash und Regulierungsdruck führen.
Quellen
Regierung fordert, dass Musks X sich mit „entsetzlichen“ Deepfakes der KI Grok befasst
Großbritannien fordert Musks X auf, sich dringend mit intimen „Deepfakes“ von Grok zu befassen.
