OpenAI y Anthropic están estableciendo centros de operaciones electorales específicos para vigilar sus plataformas y responder a posibles amenazas durante las elecciones legislativas de mitad de mandato en EE. UU. del 3 de noviembre, Semaforinformó el lunes.
El concepto de los centros de operaciones se remonta a 2018, cuando Meta reunió equipos internos para vigilar la desinformación relacionada con las elecciones. Ocho años después, los modelos generativos están amplificando los riesgos, y la Comisión de Asistencia Electoral de EE. UU. advirtió que las herramientas de IA «podrían permitir que las amenazas existentes se propaguen con mayor rapidez y eficacia».
Un portavoz de Anthropic dijo a Semafor que equipos de distintas empresas vigilan activamente las plataformas para detectar usos indebidos y coordinan respuestas rápidas a los incidentes emergentes.
Los preparativos tienen lugar en medio de la preocupación por el aumento de las publicaciones de desinformación generadas por IA que inundan las redes sociales. Citando a expertos, The Guardian informó la semana pasada de que la mayoría de esas publicaciones probablemente «están pasando inadvertidas» mientras las plataformas reducen la moderación de contenidos.
Por otra parte, Joseph Squillace, investigador de ciberseguridad de Penn State, dijo a la universidad que la IA puede acelerar los ciberataques existentes y abaratar la producción y distribución de desinformación electoral.
Mientras tanto, la IA también ha proporcionado a las campañas políticas otro canal para llegar a los votantes. Reuters informó la semana pasada de que los consultores están ayudando a los candidatos a adaptar contenidos en línea para influir en las respuestas de ChatGPT, Claude y Gemini. Alrededor del 25 % de los votantes habilitados han preguntado a chatbots sobre candidatos políticos al decidir cómo votar, según la National Conference on Citizenship.