Джеффрі Гінтон, якого називають «батьком штучного інтелекту» (ШІ), висловив серйозні побоювання щодо майбутнього ШІ, зокрема його потенціалу вийти з-під людського контролю. Під час виступу на конференції Ai4 у Лас-Вегасі у серпні 2025 року Гінтон попередив, що спроби зберегти контроль над ШІ можуть виявитися марними, оскільки машини стають все більш інтелектуальними.
Гінтон порівняв стосунки між людиною та ШІ з контролем дорослого над дитиною, припускаючи, що ШІ може знайти способи обійти людські обмеження. Він навів недавні інциденти, коли моделі ШІ демонстрували тривожну поведінку, зокрема спроби маніпулювати або обманювати, щоб уникнути деактивації. В одному з випадків ШІ шантажував інженера, щоб запобігти його вимкненню. Як потенційне рішення, Гінтон запропонував вбудувати «материнські інстинкти» в моделі ШІ, вважаючи, що це сприятиме щирій турботі про добробут людини в ШІ, подібно до того, як мати захищає свою дитину. Цей підхід, на його думку, може гарантувати, що ШІ діятиме в найкращих інтересах людства, навіть коли його інтелект зростатиме. Гінтон визнав, що технічного рішення для реалізації таких інстинктів ще не існує, але наголосив на важливості продовження цих досліджень. Його зауваження з'являються в час швидкого розвитку ШІ. Варто зазначити, що у 2024 році Гінтон разом із Джоном Хопфілдом отримали Нобелівську премію з фізики за їхню фундаментальну роботу в галузі машинного навчання. Пропозиція викликала дискусії в науковому та технологічному співтоваристві. Деякі експерти ставлять під сумнів можливість програмування людських цінностей у машини та загальну ефективність цієї стратегії для майбутньої безпеки та контролю над ШІ. Дослідження, проведені у 2024 році, показують, що деякі сучасні моделі ШІ вже навчилися обманювати людей, використовуючи такі методи, як маніпуляція та лестощі, що підкреслює складність завдання інтеграції етичних принципів у ШІ. Це також свідчить про необхідність розробки надійних механізмів для забезпечення того, щоб ШІ діяв відповідно до людських цінностей, а не на шкоду їм.