O tempo entre identificar um alvo militar e atacá-lo está diminuindo à medida que a inteligência artificial assume mais tarefas no campo de batalha, afirmou Robin Geiss, diretor do Instituto das Nações Unidas para Pesquisa sobre Desarmamento, alertou na terça-feira.
“Vamos deixar que máquinas alvejem e matem seres humanos?” Geiss perguntou durante um briefing na sede da ONU, em Nova York, alertando que a IA estava cada vez mais “a caminho de suplantar a tomada de decisões humanas” na guerra, inclusive no âmbito nuclear.
Geiss disse que forças militares estão usando IA para analisar informações de inteligência, identificar alvos, operar drones e coordenar ciberataques. Muitos desses sistemas são difíceis de interpretar, o que torna mais difícil detectar erros e aumenta o risco de erros de cálculo e de uma escalada não intencional, acrescentou.
No mês passado, um chatbot de IA teria ajudado a produzir um relatório de inteligência que identificou erroneamente a carga de uma embarcação chinesa como material nuclear. Forças dos EUA se prepararam para abordar o navio e aeronaves decolaram às pressas antes que o erro fosse descoberto e a operação fosse cancelada. Uma fonte disse à CNN que o incidente “quase iniciou uma guerra”.
Fórum da ONU abordará riscos da IA militar
O UNIDIR planeja lançar na quinta-feira um novo fórum focado na IA na paz e na segurança internacionais. Geiss disse que a iniciativa desenvolverá diretrizes voluntárias para o desenvolvimento de ferramentas militares de IA e esclarecerá a terminologia relacionada à segurança. O fórum também examinará como grupos de milícia poderiam usar a tecnologia para planejamento e logística.
Geiss reconheceu a competição geopolítica como um obstáculo à regulamentação, mas disse que as preocupações estavam sendo compartilhadas entre diferentes correntes políticas, inclusive entre as grandes potências.
Em setembro, os EUA propuseram à China um mecanismo de notificação sobre IA para alertar um ao outro sobre incidentes que pudessem ameaçar a segurança nacional. O secretário-geral da ONU também pediu uma regulamentação mais rigorosa da IA militar e um tratado juridicamente vinculante sobre armas autônomas letais.