Le 20 décembre 2024, le Secrétaire général de l'ONU, António Guterres, a exhorté le Conseil de sécurité à établir des réglementations internationales pour l'intelligence artificielle (IA) lors d'une réunion à New York. Il a averti que les retards dans la gouvernance pourraient accroître les menaces à la paix et à la sécurité mondiales.
Guterres a souligné les avancées rapides de l'IA, affirmant qu'elles dépassent la capacité de l'humanité à gérer efficacement la technologie. Il a noté la nature à double tranchant de l'IA, reconnaissant ses avantages potentiels, tels que la prédiction des déplacements induits par le changement climatique, tout en mettant en avant les risques, notamment son utilisation abusive dans des applications militaires.
« Chaque moment de retard dans l'établissement de garde-fous internationaux augmente le risque pour nous tous », a déclaré Guterres. Il a condamné le développement et le déploiement de systèmes militaires d'IA qui pourraient violer le droit humanitaire international et les droits de l'homme, en particulier ceux qui sélectionnent ou engagent des cibles de manière autonome.
Le Secrétaire général a exprimé des inquiétudes concernant l'intégration de l'IA dans les systèmes militaires, avertissant qu'elle pourrait déstabiliser la sécurité internationale. Il a fait référence à des tendances alarmantes, y compris la combinaison potentielle de l'IA avec des armes nucléaires et la montée des systèmes quantiques d'IA.
Guterres a souligné que les conflits récents ont servi de terrains d'essai pour les applications militaires de l'IA, qui incluent la surveillance autonome et le maintien de l'ordre prédictif. Il a insisté sur le fait que le sort de l'humanité ne devrait pas être laissé à des algorithmes sans supervision humaine.
De plus, il a soulevé des questions concernant l'impact de l'IA sur l'intégrité de l'information, citant des risques tels que les deepfakes et la désinformation qui pourraient manipuler l'opinion publique et éroder la confiance sociétale. Il a également mentionné l'impact environnemental de l'IA, en particulier les demandes énergétiques des centres de données et la concurrence géopolitique pour les minéraux essentiels utilisés dans les technologies d'IA.
Guterres a conclu en décrivant les initiatives récentes en matière de gouvernance de l'IA, y compris le Pacte numérique mondial de l'ONU et deux résolutions de l'Assemblée générale visant à favoriser la coopération mondiale et le renforcement des capacités dans ce domaine.