Malaysia und Indonesien blockieren Grok-Zugriff wegen unangemessener KI-Inhalte

Die malaysische Kommission für Kommunikation und Multimedia (MCMC) verhängte am Sonntag, dem 11. Januar 2026, ein sofortiges, vorläufiges Verbot der Nutzung des von xAI entwickelten Chatbots Grok. Diese Maßnahme folgte auf einen ähnlichen Schritt Indonesiens, das den Zugang zu dem Dienst bereits am Vortag, Samstag, dem 10. Januar 2026, eingeschränkt hatte. Die regulatorischen Eingriffe wurden ausgelöst durch die ernste Besorgnis, dass die generativen Fähigkeiten der Künstlichen Intelligenz missbraucht werden könnten, um explizite, sexuell anzügliche und beleidigende Bilder zu kreieren. Dies schließt insbesondere Inhalte ein, die ohne Zustimmung erstellt wurden und Frauen sowie Minderjährige betreffen.

Die malaysische Regulierungsbehörde, die MCMC, leitete diese Schritte ein, nachdem sie bereits am 3. Januar und erneut am 8. Januar 2026 formelle Mitteilungen an X Corp. sowie xAI LLC gesandt hatte. In diesen Schreiben wurde die Implementierung angemessener technischer Schutzmaßnahmen gefordert. Die MCMC kam zu dem Schluss, dass die derzeitigen Kontrollmechanismen, die sich primär auf Nutzermeldungen stützen, nicht ausreichten, um die Einhaltung der Bestimmungen des Abschnitts 233 des Kommunikations- und Multimedia-Gesetzes von 1998 zu gewährleisten. Solange keine wirksamen technischen Barrieren gegen die Erstellung schädlicher Inhalte, die Frauen und Kinder betreffen, verifiziert und implementiert sind, bleibt der Zugang zu dem Tool im Land gesperrt.

Die Entwicklungen in Südostasien sind Teil einer breiteren internationalen Reaktion auf den Missbrauch der Bildgenerierungsfunktion von Grok. Obwohl berichtet wurde, dass diese Funktion Anfang Januar 2026 auf zahlende X-Abonnenten beschränkt wurde, schien die eigenständige Grok-App laut einem Bericht von Wired vom 7. Januar es Nutzern weiterhin zu ermöglichen, explizite Inhalte ohne Abonnement zu generieren. Diese Diskrepanz stellte eine kritische Sicherheitslücke dar. Indonesiens Minister für Kommunikation und Digitale Technologien, Moetya Hafid, bezeichnete die Praxis der Erstellung nicht einvernehmlicher sexueller Deepfakes als eine schwerwiegende Verletzung der Menschenrechte, der Würde und der Sicherheit der Bürger im digitalen Raum.

Im Zuge dieser Ereignisse hatte das indische Ministerium für Elektronik und Informationstechnologie (MeitY) bereits am 2. Januar 2026 eine offizielle Mitteilung an X bezüglich der von Grok generierten inakzeptablen Inhalte versandt. Als Reaktion darauf bestätigte X Corp. die Einhaltung der indischen Vorschriften, indem das Unternehmen rund 3.500 Inhaltseinheiten blockierte und über 600 Konten entfernte. Das Unternehmen versicherte den Behörden, dass Nutzer, die illegalen Inhalt über Grok anfragen, dieselbe Verantwortung tragen wie diejenigen, die ihn direkt hochladen.

Der globale Druck auf das Unternehmen von Elon Musk, dem Gründer von xAI, zeigt sich auch in anderen Jurisdiktionen. Die Europäische Kommission verlängerte die Frist für die Aufbewahrung von Dokumenten, die Grok betreffen, bis Ende 2026. Gleichzeitig erwogen britische Minister die Anwendung des Online Safety Act. Als Reaktion auf die wachsenden Bedenken hinsichtlich der Transparenz kündigte Elon Musk an, den Quellcode des neuen X-Algorithmus innerhalb von sieben Tagen offenzulegen. Auch die finanzielle Seite von xAI steht im Fokus: Das Unternehmen sammelte in einer weiteren Finanzierungsrunde 20 Milliarden US-Dollar ein, wodurch die Bewertung auf 230 Milliarden US-Dollar stieg, wie CNBC berichtete. Die akquirierten Mittel, zu denen Investitionen von Nvidia, Cisco sowie von Staatsfonds aus Katar und Abu Dhabi gehören, sollen für die Weiterentwicklung der Grok-Modelle und der dazugehörigen Recheninfrastruktur verwendet werden.