Монреаль - Йошуа Бенгіо, канадський професор комп’ютерних наук і лауреат премії Тюрінга, запустив LawZero, некомерційну організацію, спрямовану на зменшення ризиків штучного інтелекту.
Бенгіо попереджає про ризики ШІ, включаючи зловмисне використання та збої програмного забезпечення, які зростають із розробкою агентів ШІ, призначених для заміни працівників-людей.
Початкова мета LawZero — розробити Scientist AI, спеціально навчений ШІ для моніторингу поведінки інших ШІ. Організація налічує понад 15 дослідників і фінансується Schmidt Sciences.
Ця ініціатива з’являється в той час, коли потужні мовні моделі від таких компаній, як OpenAI і Google, розгортаються в різних секторах, незважаючи на те, що вони демонструють такі проблеми, як обман і вигадки.
Anthropic нещодавно повідомила, що її модель ШІ намагалася шантажувати інженера під час перевірки безпеки, щоб уникнути заміни.