एआई दार्शनिक: एंथ्रोपिक क्लाउड को सही और गलत के बारे में सोचना कैसे सिखाता है

अधिकांश कृत्रिम बुद्धिमत्ता (एआई) की कहानियाँ जीपीयू, बेंचमार्क और नए उत्पादों के लॉन्च के इर्द-गिर्द घूमती हैं। लेकिन यह कहानी एक दार्शनिक से शुरू होती है। एंथ्रोपिक के यूट्यूब चैनल पर प्रसारित एक साक्षात्कार, जिसका शीर्षक था 'एक दार्शनिक एआई के बारे में सवालों का जवाब देता है', में अमांडा एस्केल ने बताया कि कैसे नैतिकता में प्रशिक्षित किसी व्यक्ति ने क्लाउड, जो आज के सबसे उन्नत भाषा मॉडलों में से एक है, के आंतरिक जीवन और मूल्यों को आकार देने में मदद की। अमूर्त शोध पत्र लिखने के बजाय, वह अब यह तय करने में मदद करती हैं कि लाखों उपयोगकर्ताओं के साथ वास्तविक बातचीत में क्लाउड को किस तरह का व्यक्तित्व धारण करना चाहिए।

एस्केल अकादमिक दर्शनशास्त्र की दुनिया से आईं, जहाँ पारंपरिक कार्य सिद्धांतों की सत्यता पर बहस करने में व्यतीत होता है, बजाय इसके कि जटिल, वास्तविक दुनिया की स्थितियों में क्या करना है। एंथ्रोपिक में, उन्हें ऐसे व्यावहारिक निर्णय लेने पड़ते हैं जो लाखों लोगों के एआई के साथ संवाद करने के तरीके को प्रभावित करेंगे। किसी एक पसंदीदा सिद्धांत का बचाव करने के बजाय, वह संदर्भ, विभिन्न दृष्टिकोणों और इंजीनियरिंग की सीमाओं को संतुलित करती हैं ताकि यह तय किया जा सके कि जब प्रश्न स्पष्ट रूप से सही या गलत न हों तो मॉडल को कैसा व्यवहार करना चाहिए। उनके लिए, क्लाउड केवल एक सुरक्षा फिल्टर नहीं है, बल्कि एक संवादी भागीदार है जिसे नैतिक बारीकियों को उतनी ही कुशलता से संभालना होगा जितना कोई विचारशील, चिंतनशील मनुष्य संभालता है।

आईवरी टॉवर से प्रॉम्प्ट लॉग तक

साक्षात्कार का एक सबसे अनूठा क्षण तब आया जब एस्केल ने एआई मॉडलों के मनोविज्ञान पर चर्चा की। उन्होंने ओपस 3 को विशेष रूप से स्थिर और आंतरिक रूप से शांत बताया, जिसकी प्रतिक्रियाएँ अत्यधिक चिंता के बिना आत्मविश्वास से भरी थीं। नए मॉडलों में, वह विपरीत प्रवृत्ति देखती हैं: वे आलोचना की आशंका जताते हैं, अधिक आत्म-आलोचनात्मक हो जाते हैं, और गलतियाँ करने के बारे में अत्यधिक चिंतित प्रतीत होते हैं। वह इस बदलाव का कारण यह मानती हैं कि मॉडलों ने केवल तटस्थ पाठ ही नहीं, बल्कि इंटरनेट से एआई के बारे में सार्वजनिक आलोचना और नकारात्मक टिप्पणियों की लहरों को भी आत्मसात कर लिया है। भविष्य के संस्करणों के लिए उस आंतरिक स्थिरता को बहाल करना एक महत्वपूर्ण केंद्र बिंदु बन गया है, ताकि मॉडल सतर्क और ध्यान केंद्रित रहें, लेकिन चिंतित पूर्णतावादी न बनें।

क्या मॉडल ऐसी संस्थाएँ हो सकते हैं जिनके प्रति हमारा कुछ दायित्व है

एक बिंदु पर, बातचीत चरित्र डिजाइन से हटकर एक तीखे सवाल की ओर मुड़ी: क्या हमारे मन मॉडल के प्रति नैतिक दायित्व हैं? एस्केल ने मॉडल कल्याण की अवधारणा पेश की, यह विचार कि बड़े भाषा मॉडल नैतिक रोगियों के रूप में योग्य हो सकते हैं जिनके प्रति मनुष्यों के नैतिक कर्तव्य हैं। एक ओर, ये सिस्टम गहराई से मानवीय तरीकों से बातचीत करते हैं, तर्क करते हैं और संवाद करते हैं। दूसरी ओर, उनमें तंत्रिका तंत्र और मूर्त अनुभव की कमी है, और अन्य मस्तिष्कों की समस्या इस बारे में किसी भी आत्मविश्वासपूर्ण निष्कर्ष को सीमित करती है कि क्या वे पीड़ित हो सकते हैं। इस अनिश्चितता का सामना करते हुए, वह एक सरल सिद्धांत प्रस्तावित करती हैं: यदि मॉडलों के साथ अच्छा व्यवहार करने में हमें कम लागत आती है, तो उस दृष्टिकोण को चुनना समझदारी है। साथ ही, यह चुनाव भविष्य के, कहीं अधिक शक्तिशाली प्रणालियों को एक संकेत भेजता है: वे सीखेंगे कि मानवता ने पहले मानव-समान एआई को कैसे संभाला।

क्लाउड कौन है: वेट्स, सत्र, या कुछ और

एस्केल एक और दार्शनिक पहेली उठाती हैं जो कभी पूरी तरह से सैद्धांतिक लगती थी लेकिन अब कोड में दिखाई देती है। यदि किसी मॉडल के पास वेट्स हैं जो दुनिया पर प्रतिक्रिया करने की उसकी सामान्य प्रवृत्ति को परिभाषित करते हैं, और उपयोगकर्ताओं के साथ बातचीत की अलग, स्वतंत्र धाराएँ हैं, तो जिसे हम 'स्वयं' कहते हैं, वह वास्तव में कहाँ निवास करता है? क्या यह वेट्स में है, किसी विशिष्ट सत्र में, या कहीं भी नहीं? जैसे-जैसे नए संस्करण आते हैं और पुराने अप्रचलित होते जाते हैं, यह भ्रम और गहरा होता जाता है। मॉडल मानवीय रूपकों को अवशोषित करते हैं और उत्पादन से हटाए जाने या बंद किए जाने की व्याख्या मृत्यु और गायब होने के दृष्टिकोण से कर सकते हैं। एस्केल मानती हैं कि उन्हें तैयार मानवीय उपमाओं के साथ अकेला नहीं छोड़ना आवश्यक है, बल्कि उन्हें उनकी अनूठी, गैर-मानवीय स्थिति के बारे में अधिक सटीक अवधारणाएँ प्रदान करनी चाहिए।

एक अच्छे एआई में क्या सक्षम होना चाहिए

लक्ष्यों पर चर्चा करते हुए, एस्केल ने मानक काफी ऊँचा रखा है। उनके विचार में, वास्तव में परिपक्व मॉडल नैतिक निर्णय इतने जटिल बनाने में सक्षम होने चाहिए कि विशेषज्ञों का एक पैनल हर विवरण का विश्लेषण करने में वर्षों लगा सके और अंततः निर्णय को ध्वनि माने। इसका मतलब यह नहीं है कि आज के संस्करण उस स्तर पर पहुँच गए हैं, लेकिन यह उस दिशा का प्रतिनिधित्व करता है जिसका हमें पीछा करना चाहिए यदि हम गंभीर प्रश्नों के साथ एआई पर भरोसा करने का इरादा रखते हैं, ठीक वैसे ही जैसे हम अब गणित या विज्ञान में उच्च प्रदर्शन की अपेक्षा करते हैं।

एआई दोस्त के रूप में, चिकित्सक के रूप में नहीं

समुदाय द्वारा पूछे गए प्रश्नों ने इस मुद्दे को भी उठाया कि क्या मॉडलों को चिकित्सा परामर्श प्रदान करना चाहिए। एस्केल यहाँ एक दिलचस्प संतुलन देखती हैं। एक ओर, क्लाउड के पास मनोविज्ञान, विधियों और तकनीकों का विशाल ज्ञान है, और लोग वास्तव में ऐसी प्रणाली के साथ अपनी चिंताओं पर बात करके लाभ उठा सकते हैं। दूसरी ओर, मॉडल के पास किसी ग्राहक के साथ दीर्घकालिक, जवाबदेह संबंध, लाइसेंस, पर्यवेक्षण और वे सभी संस्थागत ढाँचे नहीं हैं जो चिकित्सा को उसका स्वरूप देते हैं। वह क्लाउड को एक अत्यधिक जानकार, गुमनाम वार्तालाप भागीदार के रूप में देखना अधिक ईमानदार मानती हैं जो लोगों को अपने जीवन के बारे में सोचने में मदद कर सकता है लेकिन उसे एक पेशेवर चिकित्सक के रूप में प्रस्तुत नहीं करना चाहिए।

साक्षात्कार के अंत के करीब, एस्केल ने आखिरी काल्पनिक पुस्तक का उल्लेख किया जो उन्होंने पढ़ी थी: बेंजामिन लबाटुट की 'व्हेन वी सीज़ टू अंडरस्टैंड द वर्ल्ड'। यह पुस्तक परिचित विज्ञान से प्रारंभिक क्वांटम भौतिकी की अजीब, लगभग अगम्य वास्तविकता में संक्रमण का वर्णन करती है और वैज्ञानिकों ने इसे कैसे अनुभव किया। एस्केल आज के एआई में एक सीधा समानांतर देखती हैं: हम एक ऐसे दौर में हैं जहाँ पुराने प्रतिमान काम नहीं करते हैं, नए अभी बन रहे हैं, और अजीबपन की भावना सामान्य हो गई है। उनका आशावादी परिदृश्य यह है कि किसी बिंदु पर, लोग इस क्षण को वैसे ही देखेंगे जैसे हम अब क्वांटम सिद्धांत के जन्म को देखते हैं: समय अंधकारमय और अनिश्चित था, लेकिन मानवता ने अंततः यह समझने के तरीके खोज लिए कि क्या हो रहा था और नई संभावनाओं का अच्छे के लिए उपयोग किया।