Maleisië en Indonesië Blokkeren Toegang tot Grok wegens Generatie van Ongepaste Inhoud

De Maleisische Commissie voor Communicatie en Multimedia (MCMC) heeft op zondag 11 januari 2026 een onmiddellijk voorlopig verbod ingesteld op het gebruik van de Grok-chatbot, ontwikkeld door xAI. Deze maatregel volgde op een vergelijkbare stap van Indonesië, dat de toegang tot de dienst de dag ervoor, op zaterdag 10 januari 2026, al had ingeperkt. De regelgevende acties werden ingegeven door ernstige zorgen dat de generatieve capaciteiten van deze kunstmatige intelligentie konden worden misbruikt voor het creëren van aanstootgevende, expliciet seksuele en beledigende beelden. Dit omvat met name content die zonder toestemming is vervaardigd en die vrouwen en minderjarigen treft.

De Maleisische toezichthouder, MCMC, ondernam deze stappen nadat zij op 3 januari en opnieuw op 8 januari 2026 formele waarschuwingen had gestuurd naar zowel X Corp. als xAI LLC. In deze mededelingen werd geëist dat er adequate technische beveiligingsmaatregelen moesten worden geïmplementeerd. De MCMC concludeerde dat de bestaande waarborgen, die voornamelijk berustten op gebruikersmeldingen, onvoldoende waren om te voldoen aan de vereisten van Sectie 233 van de Communicatie en Multimedia Wet van 1998. Zolang er geen effectieve technische barrières zijn geverifieerd en ingevoerd tegen de creatie van schadelijke content gericht op vrouwen en kinderen, blijft de toegang tot de tool in het land geblokkeerd.

Deze ontwikkelingen in Zuidoost-Azië maken deel uit van een bredere internationale reactie op het misbruik van Groks beeldgeneratiefunctie. Hoewel aanvankelijk werd gemeld dat deze functie begin januari 2026 was beperkt tot betalende X-abonnees, leek de standalone Grok-applicatie, volgens een publicatie van Wired op 7 januari, nog steeds expliciete content te laten genereren zonder abonnement. Dit vormde een kritieke achterdeur. De Indonesische Minister van Communicatie en Digitale Zaken, Moetya Hafid, bestempelde de praktijk van het maken van onvrijwillige seksuele deepfakes als een ernstige schending van de mensenrechten, waardigheid en veiligheid van burgers in de digitale ruimte.

Te midden van deze gebeurtenissen had het Indiase Ministerie van Elektronica en Informatietechnologie (MeitY) op 2 januari 2026 al een officieel schrijven aan X gericht met betrekking tot de onaanvaardbare content die door Grok werd geproduceerd. Als reactie hierop bevestigde X Corp. haar naleving van de Indiase regelgeving door circa 3.500 contentitems te blokkeren en meer dan 600 accounts te verwijderen. Het bedrijf verzekerde de autoriteiten dat gebruikers die illegale content via Grok aanvragen, dezelfde verantwoordelijkheid zouden dragen als degenen die deze direct uploaden.

De wereldwijde druk op het bedrijf van Elon Musk, de oprichter van xAI, is ook in andere rechtsgebieden merkbaar. De Europese Commissie heeft de termijn voor het bewaren van documenten met betrekking tot Grok verlengd tot eind 2026, terwijl Britse ministers de mogelijke toepassing van de Online Safety Act overwogen. Als antwoord op de toenemende zorgen over transparantie kondigde Elon Musk aan dat de broncode van het nieuwe X-algoritme binnen zeven dagen openbaar zou worden gemaakt. Ook de financiële kant van xAI staat in de belangstelling: het bedrijf heeft in een nieuwe financieringsronde 20 miljard dollar opgehaald, waardoor de waardering uitkwam op 230 miljard dollar, aldus CNBC. De bijeengebrachte fondsen, waaronder investeringen van Nvidia, Cisco, en de staatsfondsen van Qatar en Abu Dhabi, zijn bestemd voor de verdere ontwikkeling van de Grok-modellen en de bijbehorende rekeninfrastructuur.