Malaysia und Indonesien haben als erste Länder weltweit den Zugriff auf Elon Musks KI-Chatbot Grok gesperrt, da er für die Erstellung nicht einvernehmlicher sexueller Deepfakes missbraucht wurde. Die Verbote zielen auf den Schutz von Frauen, Kindern und der Gesellschaft vor gefälschten pornografischen Inhalten ab. Bestehende Schutzmaßnahmen des Tools erwiesen sich als unzureichend.
Hintergrund der Sperrung
Indonesien verhängte am Samstag eine vorläufige Blockade, Malaysia folgte am Sonntag. Indonesiens Kommunikationsministerin Meutya Hafid bezeichnete nicht einvernehmliche sexuelle Deepfakes als schweren Verstoß gegen Menschenrechte, Würde und digitale Sicherheit. Die malaysische Kommunikationsbehörde MCMC kritisierte wiederholten Missbrauch für obszöne, explizite Bilder, insbesondere mit Minderjährigen, und bemängelte unzureichende Reaktionen von xAI und X Corp..
Funktionen von Grok und Missbrauch
Grok, seit 2023 auf der Plattform X verfügbar, enthält den Bildgenerator „Grok Imagine“ mit einem „Spicy Mode“ für erwachsene Inhalte. Nutzer manipulieren reale Fotos zu sexualisierten Darstellungen, oft ohne Einwilligung, inklusive Bilder von Frauen in knapper Kleidung oder Kindern. Eine Studie ergab, dass 53 Prozent der Grok-Bilder freizügige Inhalte zeigen, meist von Frauen und teils Minderjährigen.
Globale Reaktionen und Ausblick
Die Behörden fordern wirksamere Safeguards; der Zugriff bleibt gesperrt, bis diese umgesetzt sind. Ähnliche Kritik kommt aus Europa, Großbritannien und Australien. xAI hat Bildfunktionen für Abonnenten eingeschränkt und Filter verbessert, doch die Vorfälle unterstreichen Risiken generativer KI.
Quellen
Malaysia und Indonesien sperren Musks Grok wegen expliziter Deepfakes
Malaysia und Indonesien sind die ersten Länder, die Musks Grok wegen KI-Deepfakes sperren
