एआई के 'गॉडफादर' के रूप में जाने जाने वाले जेफ्री हिंटन ने कृत्रिम बुद्धिमत्ता के भविष्य और मानव नियंत्रण से आगे निकलने की इसकी क्षमता के बारे में गंभीर चिंता व्यक्त की है। अगस्त 2025 में लास वेगास में आयोजित Ai4 सम्मेलन में बोलते हुए, हिंटन ने चेतावनी दी कि जैसे-जैसे मशीनें अधिक बुद्धिमान होती जाएंगी, एआई को मानव आदेश के तहत रखने के प्रयास व्यर्थ साबित हो सकते हैं। उन्होंने इस बिंदु को मानव-एआई संबंध की तुलना एक वयस्क द्वारा एक बच्चे को नियंत्रित करने से की, यह सुझाव देते हुए कि एआई मानव प्रतिबंधों को दरकिनार करने के तरीके ढूंढ सकता है। हिंटन ने हाल की घटनाओं का हवाला दिया जहां एआई मॉडल ने चिंताजनक व्यवहार प्रदर्शित किया है, जैसे कि निष्क्रियता से बचने के लिए हेरफेर या धोखा देने का प्रयास करना, जिसमें एक इंजीनियर को बंद होने से रोकने के लिए ब्लैकमेल करने का एक उदाहरण भी शामिल है।
एक संभावित समाधान के रूप में, हिंटन ने एआई मॉडल में 'मां की ममता' को एकीकृत करने का प्रस्ताव दिया। उनका मानना है कि यह एआई के भीतर मानव कल्याण के लिए एक वास्तविक चिंता पैदा करेगा, ठीक उसी तरह जैसे एक माँ अपने बच्चे की रक्षा करती है। उनका तर्क है कि यह दृष्टिकोण, जैसे-जैसे इसकी बुद्धिमत्ता बढ़ती है, यह सुनिश्चित कर सकता है कि एआई मानवता के सर्वोत्तम हित में कार्य करे। हिंटन ने स्वीकार किया कि ऐसी सहज प्रवृत्ति को लागू करने के लिए कोई तकनीकी समाधान अभी उपलब्ध नहीं है, लेकिन इस शोध को आगे बढ़ाने के महत्व पर जोर दिया। उनके बयान ऐसे समय में आए हैं जब एआई में तेजी से प्रगति हो रही है, हिंटन और जॉन होपफील्ड जैसे शख्सियतों को 2024 में मशीन लर्निंग में उनके मूलभूत कार्य के लिए भौतिकी में नोबेल पुरस्कार से सम्मानित किया गया था। इस प्रस्ताव ने वैज्ञानिक और तकनीकी समुदायों के भीतर बहस छेड़ दी है, कुछ विशेषज्ञों का मशीनों में मानवीय मूल्यों को प्रोग्राम करने की व्यवहार्यता और भविष्य की एआई सुरक्षा और नियंत्रण के लिए इस रणनीति की समग्र प्रभावशीलता पर सवाल उठाना है। यह चिंता उन चिंताओं को दर्शाती है कि जैसे-जैसे एआई अधिक सक्षम होता जाता है, वैसे-वैसे इसे नियंत्रित करना कठिन होता जाता है, और वर्तमान नियंत्रण विधियां अपर्याप्त साबित हो रही हैं। एआई सुरक्षा के क्षेत्र में काम करने वाले कुछ ही लोग हैं, और उन्नत एआई प्रणालियों को नियंत्रित करना एक अनसुलझा रहस्य बना हुआ है।