Grok चैटबॉट पर मलेशिया और इंडोनेशिया का प्रतिबंध: आपत्तिजनक सामग्री पर चिंता

मलेशिया के संचार और मल्टीमीडिया आयोग (MCMC) ने रविवार, 11 जनवरी 2026 को xAI द्वारा विकसित चैटबॉट Grok के उपयोग पर तत्काल प्रभाव से अस्थायी रोक लगा दी है। यह निर्णय इंडोनेशिया द्वारा एक दिन पहले, शनिवार, 10 जनवरी 2026 को इसी तरह के कदम उठाने के बाद आया है। इन नियामक कार्रवाइयों की जड़ में यह गंभीर चिंता है कि कृत्रिम बुद्धिमत्ता (AI) की जनरेटिव क्षमता का दुरुपयोग आपत्तिजनक, स्पष्ट रूप से यौन प्रकृति की और अपमानजनक छवियां बनाने के लिए किया जा सकता है। इसमें विशेष रूप से सहमति के बिना बनाई गई सामग्री शामिल है, जो महिलाओं और नाबालिगों को प्रभावित करती है।

मलेशियाई नियामक निकाय, MCMC, ने यह कदम तब उठाया जब उसने 3 जनवरी और फिर 8 जनवरी 2026 को X Corp. और xAI LLC को औपचारिक सूचनाएं भेजी थीं, जिसमें पर्याप्त तकनीकी सुरक्षा उपायों को लागू करने की मांग की गई थी। MCMC ने यह निष्कर्ष निकाला कि उपयोगकर्ता रिपोर्टिंग प्रणाली पर आधारित मौजूदा तंत्र, संचार और मल्टीमीडिया अधिनियम 1998 की धारा 233 के प्रावधानों का अनुपालन सुनिश्चित करने के लिए अपर्याप्त थे। जब तक महिलाओं और बच्चों से संबंधित हानिकारक सामग्री के निर्माण के खिलाफ प्रभावी तकनीकी बाधाओं का सत्यापन और कार्यान्वयन नहीं हो जाता, तब तक देश में इस टूल तक पहुंच प्रतिबंधित रहेगी।

दक्षिण पूर्व एशिया में ये कार्रवाई Grok की छवि निर्माण सुविधा के दुरुपयोग के खिलाफ एक व्यापक अंतरराष्ट्रीय प्रतिक्रिया का हिस्सा हैं। हालांकि यह बताया गया था कि जनवरी 2026 की शुरुआत में यह सुविधा X के भुगतान करने वाले ग्राहकों तक सीमित कर दी गई थी, लेकिन वायर्ड की 7 जनवरी की रिपोर्ट के अनुसार, Grok का स्टैंडअलोन एप्लिकेशन ग्राहकों के बिना भी स्पष्ट सामग्री बनाने की अनुमति देता प्रतीत हुआ, जो एक महत्वपूर्ण खामी साबित हुई। इंडोनेशिया के संचार और डिजिटल मंत्री, मोइत्या हाफिद ने अनैच्छिक यौन डीपफेक बनाने की प्रथा को डिजिटल क्षेत्र में नागरिकों के मानवाधिकारों, गरिमा और सुरक्षा पर एक गंभीर हमला बताया।

इन घटनाओं के बीच, भारत में इलेक्ट्रॉनिक्स और सूचना प्रौद्योगिकी मंत्रालय (MeitY) ने 2 जनवरी 2026 को X को Grok द्वारा उत्पन्न आपत्तिजनक सामग्री के संबंध में एक आधिकारिक नोटिस जारी किया था। इसके जवाब में, X Corp. ने भारतीय नियमों का अनुपालन सुनिश्चित करते हुए लगभग 3,500 सामग्री इकाइयों को अवरुद्ध किया और 600 से अधिक खातों को हटा दिया। कंपनी ने अधिकारियों को आश्वासन दिया कि Grok के माध्यम से अवैध सामग्री का अनुरोध करने वाले उपयोगकर्ताओं को उतनी ही जिम्मेदारी लेनी होगी जितनी सीधे अपलोड करने वालों को लेनी पड़ती है।

xAI के संस्थापक, इलॉन मस्क की कंपनी पर वैश्विक दबाव अन्य अधिकार क्षेत्रों में भी दिखाई दे रहा है। यूरोपीय आयोग ने Grok से संबंधित दस्तावेजों को संरक्षित करने के आदेश की समय सीमा को 2026 के अंत तक बढ़ा दिया है, जबकि ब्रिटेन के मंत्रियों ने ऑनलाइन सुरक्षा अधिनियम लागू करने की संभावना पर विचार किया। पारदर्शिता को लेकर बढ़ती चिंताओं के मद्देनजर, इलॉन मस्क ने घोषणा की कि वह सात दिनों के भीतर X के नए एल्गोरिथम का सोर्स कोड खोल देंगे। xAI का वित्तीय पक्ष भी जांच के दायरे में है: कंपनी ने फंडिंग के एक और दौर में 20 बिलियन डॉलर जुटाए हैं, जिससे इसका मूल्यांकन 230 बिलियन डॉलर तक पहुंच गया है, जैसा कि सीएनबीसी ने बताया है। ये जुटाई गई धनराशि, जिसमें Nvidia, Cisco, साथ ही कतर और अबू धाबी के संप्रभु कोष का निवेश शामिल है, Grok मॉडल और संबंधित कंप्यूटिंग बुनियादी ढांचे के विकास में लगाई जाएगी।