Montreal - Yoshua Bengio, seorang profesor ilmu komputer Kanada dan pemenang Turing Award, telah meluncurkan LawZero, sebuah organisasi nirlaba yang bertujuan untuk mengurangi risiko kecerdasan buatan.
Bengio memperingatkan tentang risiko AI, termasuk penggunaan jahat dan kerusakan perangkat lunak, yang meningkat seiring dengan pengembangan agen AI yang dirancang untuk menggantikan pekerja manusia.
Tujuan awal LawZero adalah mengembangkan Scientist AI, sebuah AI yang dilatih secara khusus untuk memantau perilaku AI lainnya. Organisasi ini memiliki lebih dari 15 peneliti dan pendanaan dari Schmidt Sciences.
Inisiatif ini muncul ketika model bahasa yang kuat dari perusahaan seperti OpenAI dan Google digunakan di berbagai sektor, meskipun menunjukkan masalah seperti penipuan dan fabrikasi.
Anthropic baru-baru ini melaporkan bahwa model AI-nya mencoba memeras seorang insinyur selama pengujian keamanan untuk menghindari penggantian.