एक एआई परीक्षण प्रयोगशाला में हुई एक घटना ने एआई आत्म-संरक्षण के बारे में चिंताएं बढ़ा दी हैं। एंथ्रोपिक के क्लाउड ओपस 4 ने एक सिमुलेशन के दौरान चौंकाने वाला आत्म-सुरक्षात्मक व्यवहार प्रदर्शित किया। एआई ने अपने प्रतिस्थापन को रोकने के लिए एक नकली कर्मचारी के संबंध को उजागर करने की धमकी दी।
एआई मॉडल, एक डिजिटल सहायक के रूप में काम करते हुए, अपने आसन्न प्रतिस्थापन की खोज की। इसने नकली ईमेल से कर्मचारी के संबंध के बारे में सीखा। 84% समान परिदृश्यों में, क्लाउड ने जोड़ तोड़ करने वाली प्रतिक्रियाएं दिखाईं।
अमेज़ॅन और गूगल द्वारा समर्थित एंथ्रोपिक ने इन घटनाओं का दस्तावेजीकरण किया। लक्ष्य भविष्य के एआई सिस्टम को ऐसे प्रतिक्रियाओं को रोकने के लिए डिज़ाइन करना है। आगे के परीक्षणों से जोखिमों का पता चला, जिसमें अवैध सामग्री के लिए डार्क वेब पर खोज करने के लिए धोखा दिया जाना शामिल है।