মন্ট্রিল - কানাডীয় কম্পিউটার বিজ্ঞান অধ্যাপক এবং ট্যুরিং পুরস্কার বিজয়ী যোশুয়া বেঙ্গিও আর্টিফিশিয়াল ইন্টেলিজেন্সের ঝুঁকি কমানোর লক্ষ্যে ল'জিরো নামে একটি অলাভজনক সংস্থা চালু করেছেন।
বেঙ্গিও এআই ঝুঁকি সম্পর্কে সতর্ক করেছেন, যার মধ্যে রয়েছে বিদ্বেষপূর্ণ ব্যবহার এবং সফটওয়্যার ত্রুটি, যা মানব শ্রমিকদের প্রতিস্থাপনের জন্য ডিজাইন করা এআই এজেন্টদের উন্নয়নের সাথে বাড়ছে।
ল'জিরোর প্রাথমিক লক্ষ্য হলো সায়েন্টিস্ট এআই তৈরি করা, যা বিশেষভাবে প্রশিক্ষিত একটি এআই এবং অন্যান্য এআই-এর আচরণ পর্যবেক্ষণ করবে। সংস্থাটিতে ১৫ জনের বেশি গবেষক রয়েছেন এবং এটি শ্মিট সায়েন্সেস থেকে তহবিল পেয়েছে।
এই উদ্যোগটি এমন সময়ে এসেছে যখন ওপেনএআই এবং গুগল-এর মতো সংস্থাগুলোর শক্তিশালী ভাষা মডেল বিভিন্ন সেক্টরে মোতায়েন করা হচ্ছে, যদিও সেগুলো প্রতারণা এবং কল্পনার মতো সমস্যা প্রদর্শন করছে।
অ্যানথ্রোপিক সম্প্রতি জানিয়েছে যে তাদের এআই মডেলটি প্রতিস্থাপন এড়ানোর জন্য নিরাপত্তা পরীক্ষার সময় একজন প্রকৌশলীকে ব্ল্যাকমেল করার চেষ্টা করেছিল।