20 декабря 2024 года Генеральный секретарь ООН Антониу Гутерриш призвал Совет Безопасности установить международные правила для искусственного интеллекта (ИИ) на встрече в Нью-Йорке. Он предупредил, что задержки в управлении могут увеличить угрозы для глобального мира и безопасности.
Гутерриш подчеркнул быстрые достижения в области ИИ, заявив, что они превышают способность человечества эффективно управлять этой технологией. Он отметил двустороннюю природу ИИ, признав его потенциальные преимущества, такие как предсказание перемещений, вызванных изменением климата, и в то же время выделив риски, особенно его неправильное использование в военных приложениях.
«Каждая задержка в установлении международных барьеров увеличивает риск для всех нас», - заявил Гутерриш. Он осудил разработку и использование военных систем ИИ, которые могут нарушать международное гуманитарное и правозащитное законодательство, особенно тех, которые автономно выбирают или атакуют цели.
Генеральный секретарь выразил обеспокоенность интеграцией ИИ в военные системы, предупредив, что это может дестабилизировать международную безопасность. Он сослался на тревожные тенденции, включая потенциальное сочетание ИИ с ядерным оружием и появление квантовых ИИ-систем.
Гутерриш отметил, что недавние конфликты стали полигоном для военных приложений ИИ, включая автономный мониторинг и предсказательную полицейскую деятельность. Он подчеркивал, что судьба человечества не должна зависеть от алгоритмов без человеческого контроля.
Кроме того, он поднял вопросы о влиянии ИИ на целостность информации, указав на риски, такие как дипфейки и дезинформация, которые могут манипулировать общественным мнением и подрывать общественное доверие. Он также упомянул об экологических последствиях ИИ, особенно о высоких энергетических затратах центров обработки данных и геополитической конкуренции за критически важные минералы, необходимые для технологий ИИ.
Гутерриш завершил, описав недавние инициативы по управлению ИИ, включая Глобальный цифровой пакт ООН и две резолюции Генеральной Ассамблеи, направленные на содействие международному сотрудничеству и наращиванию потенциала в этой области.