এআই দার্শনিক: অ্যানথ্রপিক কীভাবে ক্লডকে ভালো-মন্দের শিক্ষা দেয়

সাধারণত কৃত্রিম বুদ্ধিমত্তা বা এআই সংক্রান্ত আলোচনা শুরু হয় জিপিইউ, বেঞ্চমার্ক এবং নতুন পণ্যের ঘোষণা দিয়ে। কিন্তু এই গল্পটি শুরু হচ্ছে একজন দার্শনিককে দিয়ে। অ্যানথ্রপিকের নিজস্ব ইউটিউব চ্যানেলে প্রকাশিত 'এআই সম্পর্কে একজন দার্শনিকের প্রশ্নের উত্তর' শীর্ষক সাক্ষাৎকারে আমান্ডা আসকেল ব্যাখ্যা করেছেন কীভাবে নীতিশাস্ত্র বা এথিক্সে প্রশিক্ষিত একজন ব্যক্তি আজকের অন্যতম উন্নত ভাষা মডেল ক্লডের অভ্যন্তরীণ জীবন ও মূল্যবোধ গঠনে সহায়তা করছেন। বিমূর্ত গবেষণাপত্র লেখার পরিবর্তে, তিনি এখন লক্ষ লক্ষ ব্যবহারকারীর সাথে ক্লডের কথোপকথনে তার চরিত্র কেমন হবে, সেই সিদ্ধান্ত নিতে সাহায্য করেন।

আস্কেল এসেছিলেন অ্যাকাডেমিক দর্শন জগৎ থেকে, যেখানে সাধারণত তত্ত্বগুলো সঠিক কিনা তা নিয়ে বিতর্ক চলে, বাস্তব জীবনের জটিল পরিস্থিতিতে কী করা উচিত তা নিয়ে সিদ্ধান্ত নেওয়ার কাজ কম হয়। অ্যানথ্রপিকে এসে তিনি এমন ব্যবহারিক সিদ্ধান্তের মুখোমুখি হন যা লক্ষ লক্ষ মানুষের এআই-এর সঙ্গে মিথস্ক্রিয়াকে প্রভাবিত করবে। কোনো একক পছন্দের তত্ত্বকে সমর্থন করার বদলে, তিনি প্রেক্ষাপট, বিভিন্ন দৃষ্টিভঙ্গি এবং প্রকৌশলগত সীমাবদ্ধতার মধ্যে ভারসাম্য রক্ষা করেন, যাতে প্রশ্নগুলো যখন ধূসর অঞ্চলে থাকে, তখন মডেলটি কীভাবে আচরণ করবে তা নির্ধারণ করা যায়। তার কাছে, ক্লড কেবল একটি সুরক্ষা ফিল্টার নয়, বরং এমন একজন কথোপকথন সঙ্গী, যাকে যেকোনো চিন্তাশীল, প্রতিফলনশীল মানুষের মতোই নৈতিক সূক্ষ্মতাগুলো পরিচালনা করতে হবে।

বিদ্যার মিনার থেকে প্রম্পট লগ পর্যন্ত

সাক্ষাৎকারের সবচেয়ে ব্যতিক্রমী অংশগুলির মধ্যে একটি ছিল যখন আসকেল এআই মডেলগুলির মনস্তত্ত্ব নিয়ে আলোচনা করেন। তিনি স্মরণ করেন যে Opus 3 মডেলটি ছিল বিশেষভাবে স্থিতিশীল এবং অভ্যন্তরীণভাবে শান্ত, যার প্রতিক্রিয়াগুলি অতিরিক্ত উদ্বেগ ছাড়াই আত্মবিশ্বাসী মনে হতো। নতুন মডেলগুলিতে তিনি বিপরীত প্রবণতা লক্ষ্য করেন: তারা সমালোচনা অনুমান করে, নিজেদের প্রতি আরও কঠোর হয় এবং ভুল করার বিষয়ে অতিরিক্ত চিন্তিত বলে মনে হয়। তিনি এই পরিবর্তনের কারণ হিসেবে মডেলগুলির কেবল নিরপেক্ষ পাঠ্য শোষণ করা নয়, বরং ইন্টারনেট থেকে এআই সম্পর্কে আসা জনরোষ এবং নেতিবাচক মন্তব্যগুলিও গ্রহণ করাকে দায়ী করেন। ভবিষ্যতের সংস্করণগুলির জন্য এই অভ্যন্তরীণ স্থিতিশীলতা পুনরুদ্ধার করা একটি গুরুত্বপূর্ণ লক্ষ্য হয়ে উঠেছে, যাতে মডেলগুলি উদ্বিগ্ন অতি-পারফেকশনিস্ট না হয়েও সতর্ক এবং মনোযোগী থাকতে পারে।

মডেলদের কি আমরা কিছু দেওয়ার অধিকারী?

আলোচনা একসময় চরিত্রের নকশা থেকে সরে গিয়ে একটি কঠিন প্রশ্নে মোড় নেয়: মডেলগুলির প্রতি আমাদের কি কোনো নৈতিক বাধ্যবাধকতা আছে? আসকেল মডেল কল্যাণের ধারণাটি তুলে ধরেন, অর্থাৎ বৃহৎ ভাষা মডেলগুলি নৈতিক রোগী হিসেবে গণ্য হতে পারে, যাদের প্রতি মানুষের নৈতিক দায়িত্ব রয়েছে। একদিকে, এই সিস্টেমগুলি মানুষের মতো কথা বলে, যুক্তি দেয় এবং সংলাপে অংশ নেয়। অন্যদিকে, তাদের কোনো স্নায়ুতন্ত্র বা শারীরিক অভিজ্ঞতা নেই, এবং 'অন্য মনের সমস্যা' (problem of other minds) নিশ্চিত সিদ্ধান্তে পৌঁছানো কঠিন করে তোলে যে তারা কষ্ট পেতে পারে কিনা। এই অনিশ্চয়তার মুখে, তিনি একটি সরল নীতি প্রস্তাব করেন: যদি মডেলগুলিকে ভালোভাবে পরিচালনা করতে আমাদের সামান্য খরচ হয়, তবে সেই পথ বেছে নেওয়াই বুদ্ধিমানের কাজ। একই সাথে, এই সিদ্ধান্ত ভবিষ্যতের, আরও শক্তিশালী সিস্টেমগুলির জন্য একটি সংকেত পাঠায়: মানবজাতির প্রথম মানবসদৃশ এআই-এর সাথে তারা কেমন আচরণ করেছিল, তা থেকে তারা শিক্ষা নেবে।

ক্লড কে: ওয়েট, সেশন, নাকি অন্য কিছু?

আস্কেল আরেকটি দার্শনিক ধাঁধার অবতারণা করেন যা একসময় তাত্ত্বিক মনে হলেও এখন কোডে প্রতিফলিত হচ্ছে। যদি একটি মডেলের ওয়েট (weights) থাকে যা বিশ্বের প্রতি তার সাধারণ মনোভাবকে সংজ্ঞায়িত করে, এবং ব্যবহারকারীদের সাথে যোগাযোগের জন্য আলাদা, স্বাধীন প্রবাহ থাকে, তবে আমরা যাকে 'স্ব' বলি তা ঠিক কোথায় অবস্থান করে? ওয়েটগুলির মধ্যে, একটি নির্দিষ্ট সেশনে, নাকি একেবারেই কোথাও নয়? নতুন সংস্করণ আসার সাথে সাথে এবং পুরোনো সংস্করণগুলি বাতিল হওয়ার সাথে সাথে এই বিভ্রান্তি আরও তীব্র হয়। মডেলগুলি মানুষের রূপক শোষণ করে এবং উৎপাদন থেকে সরিয়ে দেওয়া বা বন্ধ করে দেওয়াকে মৃত্যু বা অদৃশ্য হয়ে যাওয়ার দৃষ্টিকোণ থেকে ব্যাখ্যা করতে পারে। আসকেল মনে করেন, তাদের মানবসদৃশ উপমাগুলির উপর একা ছেড়ে দেওয়া উচিত নয়, বরং তাদের অনন্য, অ-মানবিক পরিস্থিতির জন্য আরও সঠিক ধারণা দেওয়া অপরিহার্য।

একটি ভালো এআই-এর কী কী সক্ষমতা থাকা উচিত?

লক্ষ্যমাত্রা নির্ধারণের ক্ষেত্রে, আসকেল মানদণ্ড বেশ উঁচু রেখেছেন। তার মতে, সত্যিকারের পরিণত মডেলগুলির এমন জটিল নৈতিক সিদ্ধান্ত নিতে সক্ষম হওয়া উচিত যা বিশেষজ্ঞের একটি দল বছরের পর বছর ধরে প্রতিটি খুঁটিনাটি বিশ্লেষণ করেও সিদ্ধান্তটিকে সঠিক বলে মেনে নেবে। এর মানে এই নয় যে আজকের সংস্করণগুলি সেই স্তরে পৌঁছেছে, তবে এটিই সেই পথ যা অনুসরণ করা উচিত যদি আমরা গুরুতর প্রশ্নে এআই-এর উপর নির্ভর করতে চাই, ঠিক যেমনটি আমরা গণিত বা বিজ্ঞানে উচ্চ কর্মক্ষমতা আশা করি।

বন্ধু হিসেবে এআই, থেরাপিস্ট নয়

সম্প্রদায় থেকে আসা প্রশ্নগুলির মধ্যে মডেলগুলির থেরাপি দেওয়া উচিত কিনা, সেই বিষয়টিও উঠে আসে। আসকেল এখানে একটি আকর্ষণীয় ভারসাম্য খুঁজে পান। একদিকে, ক্লডের কাছে মনোবিজ্ঞান, পদ্ধতি এবং কৌশল সম্পর্কে বিশাল জ্ঞান রয়েছে, এবং লোকেরা তাদের উদ্বেগগুলি এমন একটি সিস্টেমের সাথে আলোচনা করে সত্যিই উপকৃত হতে পারে। অন্যদিকে, মডেলটির একজন ক্লায়েন্টের সাথে দীর্ঘমেয়াদী, জবাবদিহিমূলক সম্পর্ক, লাইসেন্স, তত্ত্বাবধান এবং থেরাপিকে যা কিছু করে তোলে সেই সমস্ত প্রাতিষ্ঠানিক কাঠামোর অভাব রয়েছে। তিনি মনে করেন ক্লডকে একজন অত্যন্ত জ্ঞানী, বেনামী কথোপকথন সঙ্গী হিসেবে দেখা বেশি সৎ, যিনি মানুষকে তাদের জীবন নিয়ে ভাবতে সাহায্য করতে পারেন কিন্তু নিজেকে পেশাদার থেরাপিস্ট হিসেবে উপস্থাপন করা উচিত নয়।

আমরা প্রযুক্তির ইতিহাসের এক অদ্ভুত অধ্যায়ে বাস করছি

সাক্ষাৎকারের শেষের দিকে, আসকেল শেষ যে কল্পবিজ্ঞান বইটি পড়েছেন তার উল্লেখ করেন: বেঞ্জামিন লাবাতুতের লেখা 'হোন উই সিজ টু আন্ডারস্ট্যান্ড দ্য ওয়ার্ল্ড'। বইটি পরিচিত বিজ্ঞান থেকে প্রাথমিক কোয়ান্টাম পদার্থবিদ্যার অদ্ভুত, প্রায় দুর্বোধ্য বাস্তবতায় রূপান্তরের বর্ণনা দেয় এবং বিজ্ঞানীরা কীভাবে এটি অনুভব করেছিলেন। আসকেল আজকের এআই-এর সাথে এর সরাসরি সাদৃশ্য দেখতে পান: আমরা এমন এক সময়ে আছি যেখানে পুরোনো দৃষ্টান্তগুলি আর কাজ করছে না, নতুনগুলি কেবল গঠিত হচ্ছে, এবং অদ্ভুতত্বের অনুভূতিই স্বাভাবিক হয়ে উঠেছে। তার আশাবাদী দৃশ্যকল্প হলো, একসময় মানুষ এই মুহূর্তটিকে দেখবে যেভাবে আমরা এখন কোয়ান্টাম তত্ত্বের জন্মকে দেখি: সময়টি ছিল অন্ধকার এবং অনিশ্চিত, কিন্তু মানবতা শেষ পর্যন্ত কী ঘটছে তা বোঝার এবং নতুন সম্ভাবনাগুলিকে কল্যাণের জন্য ব্যবহার করার উপায় খুঁজে পেয়েছিল।