NACIONES UNIDAS, 24 sep (Xinhua) -- El secretario general de las Naciones Unidas, António Guterres, subrayó hoy la importancia de garantizar el control humano de la inteligencia artificial (IA) en el uso de la fuerza.
"Seamos claros: el destino de la humanidad no puede dejarse en manos de un algoritmo. Los seres humanos deben conservar siempre la autoridad sobre las decisiones de vida o muerte", afirmó el jefe de la ONU durante un debate abierto del Consejo de Seguridad sobre la IA y la paz y la seguridad internacionales.
En su opinión, el Consejo de Seguridad y los Estados miembros de la ONU deben asegurarse de que el uso militar de la IA cumpla plenamente con el derecho internacional y con la Carta de las Naciones Unidas. El control y el juicio humanos deben preservarse en todo uso de la fuerza.
Tras señalar que la IA está transformando la vida diaria, el espacio de la información y la economía mundial a una velocidad vertiginosa, Guterres sostuvo que la cuestión no es si la IA influirá en la paz y la seguridad internacionales, sino cómo moldeará el mundo esa influencia.
Sin salvaguardas, la IA puede ser utilizada como arma. Los ciberataques potenciados por IA pueden interrumpir o destruir infraestructuras críticas en cuestión de minutos. La capacidad de fabricar y manipular audio y vídeo amenaza la integridad de la información, alimenta la polarización y puede desencadenar crisis diplomáticas, advirtió.
Además, continuó, la enorme demanda de energía y agua de los modelos a gran escala, junto con la competencia por minerales críticos, está creando nuevos factores de tensión.
En este sentido, Guterres afirmó que deben establecerse marcos regulatorios globales coherentes para la IA.
Los Gobiernos, las plataformas, los medios de comunicación y la sociedad civil deben cooperar para detectar y disuadir el engaño generado por IA, desde campañas de desinformación hasta videos manipulados que apunten contra procesos de paz, acceso humanitario y elecciones, señaló.
"Necesitamos transparencia en todo el ciclo de vida de la IA: una atribución rápida y verificada de las fuentes de información y su difusión, así como salvaguardias sistémicas para evitar que los sistemas de IA propaguen desinformación e inciten a la violencia", dijo el secretario general de la ONU.
También es necesario cerrar la brecha de capacidades en IA. "La tecnología puede acelerar el desarrollo sostenible, fomentar la estabilidad y la paz. Debemos crear un espacio para que todas las naciones den forma a nuestro futuro con la IA", agregó Guterres.
Desde el control de armas nucleares hasta la seguridad aérea, la comunidad internacional ha sabido estar a la altura de tecnologías que podían desestabilizar sociedades, acordando normas, creando instituciones e insistiendo en la dignidad humana, recordó.
"Se está cerrando la ventana para moldear la IA, por la paz, por la justicia, por la humanidad. Debemos actuar sin demora", enfatizó Guterres.
