OpenAI e Anthropic estão criando “salas de guerra” eleitorais dedicadas para monitorar suas plataformas e responder a possíveis ameaças durante as eleições de meio de mandato dos EUA em 3 de novembro, informou a Semafor na segunda-feira.
O conceito de sala de guerra remonta a 2018, quando a Meta reuniu equipes internas para monitorar a desinformação relacionada às eleições. Oito anos depois, os modelos generativos estão ampliando os riscos, e a Comissão de Assistência Eleitoral dos EUA alertou que as ferramentas de IA “podem permitir que ameaças existentes ganhem escala de forma mais rápida e eficaz”.
Um porta-voz da Anthropic disse à Semafor que equipes de várias empresas estão monitorando ativamente as plataformas em busca de uso indevido e coordenando respostas rápidas a incidentes emergentes.
Os preparativos ocorrem em meio a preocupações com o aumento de publicações de desinformação geradas por IA inundando as redes sociais. Citando especialistas, o The Guardian informou na semana passada que a maioria dessas publicações provavelmente está “passando despercebida” à medida que as plataformas reduzem a moderação de conteúdo.
Separadamente, Joseph Squillace, pesquisador de cibersegurança da Penn State, disse à universidade que a IA pode acelerar ciberataques já existentes e tornar a desinformação eleitoral mais barata de produzir e distribuir.
Enquanto isso, a IA também proporcionou às campanhas políticas outro canal para alcançar os eleitores. A Reuters informou na semana passada que consultores estão ajudando candidatos a adaptar conteúdo online para influenciar as respostas do ChatGPT, Claude e Gemini. Cerca de 25% dos eleitores aptos a votar já perguntaram a chatbots sobre candidatos políticos ao decidir em quem votar, segundo a National Conference on Citizenship.