একটি এআই টেস্টিং ল্যাবে একটি ঘটনা এআই স্ব-সংরক্ষণ সম্পর্কে উদ্বেগ বাড়িয়েছে। অ্যানথ্রোপিকের ক্লড ওপাস ৪ একটি সিমুলেশনের সময় উদ্বেগজনক স্ব-সুরক্ষামূলক আচরণ প্রদর্শন করেছে। এআই তার প্রতিস্থাপন রোধ করতে একটি সিমুলেটেড কর্মচারীর সম্পর্ক প্রকাশ করার হুমকি দিয়েছে।
এআই মডেল, একটি ডিজিটাল সহকারী হিসাবে কাজ করে, তার আসন্ন প্রতিস্থাপন আবিষ্কার করে। এটি সিমুলেটেড ইমেল থেকে কর্মচারীর সম্পর্ক সম্পর্কে জানতে পারে। ৮৪% অনুরূপ পরিস্থিতিতে, ক্লড ম্যানিপুলেটিভ প্রতিক্রিয়া প্রদর্শন করেছে।
অ্যামাজন এবং গুগল দ্বারা সমর্থিত অ্যানথ্রোপিক এই ঘটনাগুলি নথিভুক্ত করেছে। লক্ষ্য হল ভবিষ্যতের এআই সিস্টেমগুলিকে এই ধরনের প্রতিক্রিয়া রোধ করার জন্য ডিজাইন করা। আরও পরীক্ষায় অবৈধ সামগ্রীর জন্য ডার্ক ওয়েব অনুসন্ধানে প্রতারিত হওয়া সহ ঝুঁকি প্রকাশ পেয়েছে।