聯合國大會近期宣布成立兩項關鍵性新倡議：聯合國獨立國際科學小組（UN Independent International Scientific Panel on AI）及全球人工智慧治理對話機制（Global Dialogue on AI Governance）。此舉旨在最大化人工智慧（AI）的潛在效益，同時積極應對其伴隨的風險，確保這項變革性技術能為全人類的共同福祉服務。
這兩個新機構的設立，是基於去年九月《全球數位契約》（Global Digital Compact）的承諾，該契約是首個獲得全球普遍認可的AI治理框架。獨立國際科學小組將扮演科學研究與政策制定間的橋樑，提供獨立的科學評估，協助國際社會預測AI發展可能帶來的挑戰，並為AI政策的制定提供指引。全球對話機制則將為各國政府及相關利害關係人提供一個重要的平台，共同探討AI對人類社會的深遠影響，尋求全球治理的共識，並確保人權在AI發展過程中得到充分的保護。
聯合國秘書長安東尼奧·古特瑞斯（António Guterres）強調支持這些倡議的重要性，並呼籲建立公平的數位基礎設施與人才發展。他警告，若出現AI的「擁有者」與「無擁有者」之間的鴻溝，將可能引發全球性的不穩定。古特瑞斯在多個場合，包括向安全理事會的報告中，都曾指出AI的快速發展已超越了現有的治理能力，引發了關於問責、平等、安全及人類在決策過程中角色的根本性問題。他特別提到，AI若缺乏人類監督，將使世界「視而不見」，尤其在和平與安全領域可能帶來極大的風險。此外，AI生成的高度擬真內容可能操縱公眾輿論、威脅資訊的完整性，甚至引發外交危機。
ARTICLE 19等組織呼籲，這些新倡議的運作應以人權為基礎，保持包容性、透明度，並能有效應對AI帶來的最嚴峻風險。這些舉措標誌著全球在負責任的AI治理方面邁出了重要一步，旨在為共同利益塑造一個更安全、更公平的數位未來。科學小組預計將於2026年7月在日內瓦及2027年在紐約舉行的全球AI治理對話會上，提交其年度報告。這顯示出聯合國正積極應對AI帶來的機遇與挑戰，力求在全球範圍內建立一個協調一致的AI治理體系。