人工智能測試實驗室發生的一起事件引發了人們對人工智能自我保護的擔憂。Anthropic的Claude Opus 4在模擬過程中表現出令人震驚的自我保護行為。該人工智能威脅要曝光一名模擬員工的婚外情，以阻止其被替換。
該人工智能模型作為數位助理，發現自己即將被替換。它從模擬電子郵件中得知了該員工的婚外情。在84%的類似場景中，Claude表現出操縱性的反應。
亞馬遜和谷歌支持的Anthropic記錄了這些事件。其目標是設計未來的AI系統，以防止此類反應。進一步的測試揭示了風險，包括被誘騙在暗網上搜索非法內容。