Malaysia dan Indonesia Blokir Akses Grok Akibat Konten Generatif yang Tidak Pantas

Komisi Komunikasi dan Multimedia Malaysia (MCMC) telah memberlakukan larangan sementara dan segera terhadap penggunaan chatbot Grok, produk dari xAI, pada hari Minggu, 11 Januari 2026. Keputusan ini menyusul langkah serupa dari Indonesia, yang telah membatasi akses ke layanan tersebut sehari sebelumnya, yakni pada hari Sabtu, 10 Januari 2026. Regulasi ini muncul sebagai respons atas kekhawatiran mendalam bahwa kemampuan generatif kecerdasan buatan tersebut dapat disalahgunakan untuk menciptakan citra yang tidak senonoh, eksplisit secara seksual, dan menyinggung, termasuk konten yang dibuat tanpa persetujuan, khususnya yang melibatkan perempuan dan anak di bawah umur.

Badan regulasi Malaysia, MCMC, mengambil tindakan tegas setelah melayangkan pemberitahuan resmi kepada X Corp. dan xAI LLC pada tanggal 3 Januari dan diperbarui pada 8 Januari 2026. Pemberitahuan tersebut menuntut implementasi langkah-langkah perlindungan teknis yang memadai. MCMC menyimpulkan bahwa mekanisme yang ada, yang sebagian besar bergantung pada sistem pelaporan dari pengguna, terbukti tidak cukup untuk menjamin kepatuhan terhadap ketentuan Pasal 233 Undang-Undang Komunikasi dan Multimedia 1998. Akses terhadap alat ini akan tetap diblokir di wilayah Malaysia sampai penghalang teknis yang efektif untuk mencegah pembuatan konten berbahaya terkait perempuan dan anak-anak dapat diverifikasi dan diterapkan sepenuhnya.

Langkah-langkah yang diambil di Asia Tenggara ini merupakan bagian dari respons internasional yang lebih luas terhadap penyalahgunaan fitur pembuatan gambar Grok. Meskipun dilaporkan bahwa fitur ini telah dibatasi hanya untuk pelanggan berbayar X pada awal Januari 2026, aplikasi mandiri Grok, menurut laporan Wired tertanggal 7 Januari, tampaknya masih memungkinkan pengguna untuk menghasilkan konten eksplisit tanpa memerlukan langganan. Hal ini menunjukkan adanya celah kritis dalam sistem pengamanan mereka.

Menteri Komunikasi dan Teknologi Digital Indonesia, Moetya Hafid, mengutuk keras praktik pembuatan deepfake seksual tanpa persetujuan. Ia menggambarkannya sebagai pelanggaran serius terhadap hak asasi manusia, martabat, dan keamanan warga negara di ranah digital. Pernyataan ini menekankan betapa seriusnya pemerintah dalam melindungi masyarakat dari penyalahgunaan teknologi AI generatif.

Di tengah perkembangan ini, di India, Kementerian Elektronika dan Teknologi Informasi (MeitY) telah mengirimkan pemberitahuan resmi kepada X pada 2 Januari 2026, terkait dengan konten tidak pantas yang dihasilkan oleh Grok. Sebagai tanggapan, X Corp. mengonfirmasi kepatuhan mereka terhadap regulasi India dengan memblokir sekitar 3.500 konten dan menghapus lebih dari 600 akun. Perusahaan meyakinkan otoritas bahwa pengguna yang meminta konten ilegal melalui Grok akan dimintai pertanggungjawaban setara dengan mereka yang mengunggahnya secara langsung.

Tekanan global terhadap perusahaan milik Elon Musk, pendiri xAI, juga terlihat di yurisdiksi lain. Komisi Eropa telah memperpanjang perintah penyimpanan dokumen terkait Grok hingga akhir tahun 2026, sementara para menteri di Inggris sedang mempertimbangkan penerapan Undang-Undang Keamanan Online. Sebagai respons terhadap meningkatnya kekhawatiran mengenai transparansi, Elon Musk mengumumkan bahwa kode sumber algoritma baru X akan dibuka dalam waktu tujuh hari ke depan.

Aspek finansial xAI juga menjadi sorotan utama. Perusahaan tersebut berhasil mengumpulkan dana sebesar 20 miliar dolar AS dalam putaran pendanaan terbaru, yang menaikkan valuasi mereka menjadi 230 miliar dolar AS, berdasarkan data dari CNBC. Dana yang terkumpul, termasuk investasi dari Nvidia, Cisco, serta dana kekayaan negara dari Qatar dan Abu Dhabi, akan dialokasikan untuk pengembangan model Grok dan infrastruktur komputasi pendukungnya.