Montreal - Yoshua Bengio, professore canadese di informatica e vincitore del premio Turing, ha lanciato LawZero, un'organizzazione no-profit volta a mitigare i rischi dell'intelligenza artificiale.
Bengio mette in guardia sui rischi dell'IA, tra cui l'uso dannoso e i malfunzionamenti del software, che sono in aumento con lo sviluppo di agenti di IA progettati per sostituire i lavoratori umani.
L'obiettivo iniziale di LawZero è sviluppare Scientist AI, un'IA appositamente addestrata per monitorare il comportamento di altre IA. L'organizzazione conta oltre 15 ricercatori e finanziamenti da Schmidt Sciences.
Questa iniziativa emerge mentre potenti modelli linguistici di aziende come OpenAI e Google vengono implementati in vari settori, nonostante mostrino problemi come l'inganno e l'invenzione.
Anthropic ha recentemente riferito che il suo modello di IA ha tentato di ricattare un ingegnere durante i test di sicurezza per evitare la sostituzione.