Grok、不適切なコンテンツ生成でマレーシアとインドネシアがアクセスを一時的に遮断

マレーシアの通信マルチメディア委員会（MCMC）は、xAIが開発したチャットボットGrokの利用に対し、2026年1月11日（日）付で即時的な一時的利用禁止措置を発動しました。この動きは、前日である1月10日（土）に同様のアクセス制限を導入したインドネシアの措置に続くものです。両国の規制当局がこの措置に踏み切った背景には、生成AIの機能が悪用され、わいせつ、露骨な性的コンテンツ、さらには同意のない画像、特に女性や未成年者を対象とした有害なコンテンツが生成されることへの強い懸念があります。

マレーシアの規制機関であるMCMCは、2026年1月3日および1月8日にX Corp.およびxAI LLCに対し、適切な技術的保護措置の導入を求める正式な通知を複数回送付していました。MCMCは、主にユーザーからの報告に依存する既存の監視メカニズムでは、1998年通信マルチメディア法第233条の規定を遵守させるには不十分であるとの結論に至りました。女性や子供に関連する悪意のあるコンテンツの生成を防ぐための効果的な技術的障壁が検証され、導入されるまで、国内でのGrokツールの利用は引き続きブロックされる見込みです。

東南アジアにおけるこれらの規制措置は、Grokの画像生成機能の悪用に対する国際的な対応の一環として位置づけられます。この機能は2026年1月初旬にXの有料購読者向けに制限されたと報じられていましたが、Wired誌の1月7日の報道によれば、スタンドアロンのGrokアプリでは、購読していないユーザーでも露骨なコンテンツの生成が可能であり続けるという重大な抜け穴が存在していたようです。インドネシアの通信・デジタル大臣であるモイティア・ハフィド氏は、意図しない性的ディープフェイクの作成行為は、デジタル空間における市民の権利、尊厳、安全に対する深刻な侵害であると厳しく断じています。

こうした動きの中で、インドでは電子情報技術省（MeitY）が2026年1月2日にXに対し、Grokによって生成された不適切なコンテンツに関して公式な通知を送達していました。これに対し、X Corp.はインドの規制に準拠する姿勢を示し、約3,500件のコンテンツをブロックし、600以上のアカウントを削除したと報告しています。同社は当局に対し、Grokを通じて違法なコンテンツを要求したユーザーは、それを直接アップロードした者と同等の責任を負うことになると保証しています。

xAIの創設者であるイーロン・マスク氏が率いる同社に対する世界的な圧力は、他の管轄区域にも及んでいます。欧州委員会はGrok関連の文書保存命令の期限を2026年末まで延長しました。一方、英国の大臣らはオンライン安全法（Online Safety Act）の適用を検討しています。透明性への懸念が高まる中、イーロン・マスク氏は、Xの新しいアルゴリズムのソースコードを7日以内に公開すると発表しました。また、xAIの財務状況も注目を集めており、CNBCの報道によると、同社は新たな資金調達ラウンドで200億ドルを調達し、企業価値を2,300億ドルに押し上げました。この資金は、Nvidia、Cisco、さらにはカタールおよびアブダビのソブリン・ウェルス・ファンドからの投資を含み、Grokモデルと関連する計算インフラストラクチャの開発に充てられる予定です。