El tiempo entre la identificación de un objetivo militar y su ataque se está reduciendo a medida que la inteligencia artificial asume más tareas en el campo de batalla, advirtió el martes.
“¿Vamos a permitir que las máquinas seleccionen como objetivos y maten a seres humanos?”, preguntó Geiss durante una sesión informativa en la sede de la ONU en Nueva York, y advirtió que la IA avanzaba cada vez más hacia “desplazar la toma de decisiones humana” en la guerra, incluido el ámbito nuclear.
Geiss dijo que las fuerzas armadas están utilizando la IA para analizar inteligencia, identificar objetivos, operar drones y coordinar ciberataques. Muchos de estos sistemas son difíciles de interpretar, lo que hace más difícil detectar errores y aumenta el riesgo de errores de cálculo y de una escalada no intencionada, añadió.
El mes pasado, según informes, un chatbot de IA ayudó a elaborar un informe de inteligencia que identificó erróneamente la carga de un buque chino como material nuclear. Las fuerzas de EE. UU. se prepararon para abordar el buque y varios aviones despegaron antes de que se descubriera el error y se cancelara la operación. Una fuente dijo a CNN que el incidente “casi desencadena una guerra”.
Un foro de la ONU abordará los riesgos de la IA militar
UNIDIR tiene previsto inaugurar el jueves un nuevo foro centrado en la IA en la paz y la seguridad internacionales. Geiss dijo que la iniciativa elaborará directrices voluntarias para el desarrollo de herramientas de IA militar y aclarará la terminología relacionada con la seguridad. También examinará cómo los grupos de milicias podrían utilizar esta tecnología para la planificación y la logística.
Geiss reconoció que la competencia geopolítica obstaculiza la regulación, pero afirmó que las preocupaciones se compartían entre distintas corrientes políticas, incluso entre las grandes potencias.
En septiembre, EE. UU. propuso a China un mecanismo de notificación sobre IA para advertirse mutuamente de incidentes que pudieran amenazar la seguridad nacional. El secretario general de la ONU también ha pedido una regulación más estricta de la IA militar y un tratado jurídicamente vinculante sobre armas autónomas letales.