Am 20. Dezember 2024 forderte der UN-Generalsekretär António Guterres den Sicherheitsrat auf, internationale Vorschriften für künstliche Intelligenz (KI) während eines Treffens in New York zu erlassen. Er warnte, dass Verzögerungen bei der Governance die Bedrohungen für den globalen Frieden und die Sicherheit erhöhen könnten.
Guterres betonte die rasanten Fortschritte in der KI und stellte fest, dass diese die Fähigkeit der Menschheit übertreffen, die Technologie effektiv zu steuern. Er wies auf die zweischneidige Natur der KI hin und erkannte deren potenzielle Vorteile an, wie die Vorhersage klimabedingter Vertreibungen, während er auch die Risiken hervorhob, insbesondere den Missbrauch in militärischen Anwendungen.
„Jeder Moment der Verzögerung bei der Etablierung internationaler Sicherheitsvorkehrungen erhöht das Risiko für uns alle“, erklärte Guterres. Er verurteilte die Entwicklung und den Einsatz militärischer KI-Systeme, die gegen das internationale humanitäre Recht und die Menschenrechte verstoßen könnten, insbesondere solche, die autonom Ziele auswählen oder angreifen.
Der Generalsekretär äußerte Bedenken hinsichtlich der Integration von KI in militärische Systeme und warnte, dass dies die internationale Sicherheit destabilisieren könnte. Er verwies auf alarmierende Trends, einschließlich der potenziellen Kombination von KI mit Atomwaffen und dem Aufstieg von Quanten-KI-Systemen.
Guterres stellte fest, dass jüngste Konflikte als Prüfstand für militärische KI-Anwendungen dienten, die autonome Überwachung und prädiktive Polizeiarbeit umfassen. Er betonte, dass das Schicksal der Menschheit nicht den Algorithmen ohne menschliche Aufsicht überlassen werden sollte.
Zusätzlich sprach er die Auswirkungen der KI auf die Informationsintegrität an und nannte Risiken wie Deepfakes und Desinformation, die die öffentliche Meinung manipulieren und das gesellschaftliche Vertrauen untergraben könnten. Er erwähnte auch die Umweltfolgen der KI, insbesondere den Energiebedarf von Rechenzentren und den geopolitischen Wettbewerb um wichtige Mineralien, die in KI-Technologien verwendet werden.
Guterres schloss mit der Beschreibung kürzlicher Initiativen zur KI-Governance, einschließlich des UN Global Digital Compact und zweier Resolutionen der Generalversammlung, die darauf abzielen, die globale Zusammenarbeit und den Kapazitätsaufbau in diesem Bereich zu fördern.