El 20 de diciembre de 2024, el Secretario General de la ONU, António Guterres, instó al Consejo de Seguridad a establecer regulaciones internacionales para la inteligencia artificial (IA) durante una reunión en Nueva York. Advirtió que los retrasos en la gobernanza podrían aumentar las amenazas a la paz y la seguridad global.
Guterres enfatizó los rápidos avances en IA, afirmando que superan la capacidad de la humanidad para gestionar eficazmente la tecnología. Reconoció la naturaleza de doble filo de la IA, destacando sus beneficios potenciales, como predecir desplazamientos inducidos por el cambio climático, al tiempo que subrayó los riesgos, especialmente su uso indebido en aplicaciones militares.
“Cada momento de retraso en el establecimiento de salvaguardias internacionales aumenta el riesgo para todos nosotros”, dijo Guterres. Condenó el desarrollo y despliegue de sistemas militares de IA que podrían violar el derecho humanitario internacional y los derechos humanos, en particular aquellos que seleccionan o atacan objetivos de manera autónoma.
El Secretario General expresó su preocupación por la integración de la IA en sistemas militares, advirtiendo que podría desestabilizar la seguridad internacional. Hizo referencia a tendencias alarmantes, incluida la posible combinación de IA con armas nucleares y el surgimiento de sistemas cuánticos de IA.
Guterres señaló que los recientes conflictos han servido como campos de prueba para aplicaciones militares de IA, que incluyen vigilancia autónoma y policía predictiva. Subrayó que el destino de la humanidad no debería dejarse a los algoritmos sin supervisión humana.
Además, planteó cuestiones sobre el impacto de la IA en la integridad de la información, citando riesgos como los deepfakes y la desinformación, que podrían manipular la opinión pública y erosionar la confianza social. También mencionó el impacto ambiental de la IA, particularmente las demandas energéticas de los centros de datos y la competencia geopolítica por minerales críticos utilizados en tecnologías de IA.
Guterres concluyó describiendo iniciativas recientes para la gobernanza de la IA, incluido el Pacto Digital Global de la ONU y dos resoluciones de la Asamblea General destinadas a fomentar la cooperación global y el desarrollo de capacidades en este ámbito.