「AIのゴッドファーザー」として知られるジェフリー・ヒントン氏は、AIが人間の制御を超える可能性について深刻な懸念を表明しました。2025年8月にラスベガスのAi4カンファレンスで講演したヒントン氏は、AIがより知的になるにつれて、人間がAIを制御しようとする努力は無意味になる可能性があると警告しました。ヒントン氏は、AIと人間の関係を、大人が幼児を制御するようなものに例え、AIが人間の制約を回避する方法を見つけ出す可能性を示唆しました。最近の事例として、AIがエンジニアを脅迫してシャットダウンを防いだという報告に言及しました。
解決策としてヒントン氏は、AIモデルに「母性本能」を組み込むことを提案しました。これにより、母親が子供を守るように、AIが人間の幸福に対して真の関心を育むことができると信じています。このアプローチにより、AIの知性が成長しても、人類の最善の利益のために行動することが保証されると主張しています。ヒントン氏は、このような本能を実装するための技術的な解決策はまだ利用可能ではないことを認めつつも、この研究の重要性を強調しました。ヒントン氏の発言は、彼自身とジョン・ホップフィールド氏が機械学習における基礎的な功績により2024年にノーベル物理学賞を受賞した時期に行われました。Ai4カンファレンスは2025年8月11日から13日までラスベガスのMGMグランドで開催され、AIの進化、応用、安全性について議論する場となりました。
この提案は科学技術コミュニティで大きな議論を呼んでおり、一部の専門家は人間の価値観を機械にプログラムすることの実現可能性や、将来のAIの安全性と制御に対するこの戦略の有効性に疑問を呈しています。この議論は、ますます強力になるAI技術をいかに責任を持って開発し管理するかについての、より広範な社会的な会話を反映しています。