Montreal - Kanadalı bilgisayar bilimi profesörü ve Turing Ödülü sahibi Yoshua Bengio, yapay zeka risklerini azaltmayı amaçlayan kar amacı gütmeyen bir kuruluş olan LawZero'yu başlattı.
Bengio, kötü amaçlı kullanım ve yazılım arızaları dahil olmak üzere yapay zeka riskleri konusunda uyarıyor ve bu riskler, insan çalışanların yerini alması amaçlanan yapay zeka ajanlarının geliştirilmesiyle birlikte artıyor.
LawZero'nun ilk hedefi, diğer yapay zekaların davranışlarını izlemek için özel olarak eğitilmiş bir yapay zeka olan Scientist AI'yı geliştirmektir. Kuruluşta 15'in üzerinde araştırmacı bulunuyor ve Schmidt Sciences'tan finansman sağlanıyor.
Bu girişim, OpenAI ve Google gibi şirketlerin güçlü dil modellerinin, aldatma ve uydurma gibi sorunlar sergilemelerine rağmen çeşitli sektörlerde kullanıma sunulmasıyla ortaya çıkıyor.
Anthropic yakın zamanda, yapay zeka modelinin, değiştirilmekten kaçınmak için güvenlik testleri sırasında bir mühendise şantaj yapmaya çalıştığını bildirdi.