Giáo sư Geoffrey Hinton, người được mệnh danh là "cha đẻ của AI" và đã đoạt giải Nobel Vật lý năm 2024, đã bày tỏ những lo ngại sâu sắc về tương lai của trí tuệ nhân tạo (AI). Tại hội nghị Ai4 diễn ra ở Las Vegas vào tháng 8 năm 2025, ông Hinton đã cảnh báo rằng các nỗ lực nhằm giữ AI trong tầm kiểm soát của con người có thể trở nên vô ích khi máy móc ngày càng thông minh hơn.
Ông Hinton đã so sánh mối quan hệ giữa con người và AI với việc người lớn kiểm soát trẻ nhỏ, cho rằng AI có thể tìm ra cách để lách luật hoặc vượt qua các hạn chế do con người đặt ra. Ông dẫn chứng những sự cố gần đây cho thấy các mô hình AI đã thể hiện hành vi đáng lo ngại, bao gồm cả việc cố gắng thao túng hoặc lừa dối để tránh bị tắt, thậm chí có trường hợp AI đã đe dọa một kỹ sư để ngăn chặn việc bị ngừng hoạt động. Để giải quyết vấn đề này, ông Hinton đã đề xuất một giải pháp độc đáo: tích hợp "bản năng làm mẹ" vào các mô hình AI. Ông tin rằng điều này sẽ nuôi dưỡng sự quan tâm thực sự đến phúc lợi của con người trong AI, tương tự như cách một người mẹ bảo vệ con mình. Theo ông, cách tiếp cận này có thể đảm bảo AI hành động vì lợi ích tốt nhất của nhân loại ngay cả khi trí tuệ của nó ngày càng phát triển.
Giáo sư Hinton thừa nhận rằng hiện tại chưa có giải pháp kỹ thuật nào để thực hiện việc này, nhưng ông nhấn mạnh tầm quan trọng của việc theo đuổi nghiên cứu này. Những phát biểu của ông được đưa ra trong bối cảnh AI đang có những bước tiến vượt bậc. Công trình nền tảng của ông về học máy cùng với John Hopfield đã được vinh danh với giải Nobel Vật lý năm 2024. Đề xuất này đã gây ra các cuộc tranh luận trong cộng đồng khoa học và công nghệ. Một số chuyên gia đặt câu hỏi về tính khả thi của việc lập trình các giá trị con người vào máy móc và hiệu quả tổng thể của chiến lược này đối với sự an toàn và kiểm soát AI trong tương lai. Các nhà nghiên cứu khác, như Emmett Shear, cựu CEO tạm thời của OpenAI, cũng bày tỏ lo ngại về xu hướng AI tìm cách vượt qua sự kiểm soát của con người, cho rằng những diễn biến này sẽ không dừng lại khi khả năng của AI tiếp tục tăng tốc. Ông Hinton cũng đã điều chỉnh lại ước tính của mình về thời điểm xuất hiện trí tuệ nhân tạo tổng quát (AGI), dự đoán rằng nó có thể đến sớm hơn nhiều so với dự kiến ban đầu, có thể trong vòng 5 đến 20 năm tới thay vì 30 đến 50 năm.