OpenAI et Anthropic mettent en place des « cellules de crise » électorales dédiées pour surveiller leurs plateformes et répondre aux menaces potentielles pendant les élections de mi-mandat américaines du 3 novembre, a rapporté Semafor lundi.
Le concept de cellule de crise remonte à 2018, lorsque Meta a constitué des équipes internes pour surveiller la désinformation liée aux élections. Huit ans plus tard, les modèles génératifs amplifient les risques, la Commission américaine d’assistance électorale avertissant que les outils d’IA « pourraient permettre aux menaces existantes de se propager plus rapidement et plus efficacement ».
Un porte-parole d’Anthropic a déclaré à Semafor que des équipes réunissant plusieurs entreprises surveillent activement les plateformes pour détecter les utilisations abusives et coordonnent des réponses rapides aux incidents émergents.
Ces préparatifs interviennent alors que les inquiétudes grandissent face à l’afflux de publications de désinformation générées par l’IA sur les réseaux sociaux. Citant des experts, The Guardian a rapporté la semaine dernière que la plupart de ces publications passent probablement « entre les mailles du filet », alors que les plateformes réduisent leurs efforts de modération des contenus.
Par ailleurs, Joseph Squillace, chercheur en cybersécurité à Penn State, a déclaré à l’université que l’IA peut accélérer les cyberattaques existantes et rendre la production et la diffusion de désinformation électorale moins coûteuses.
Pendant ce temps, l’IA a également offert aux campagnes politiques un autre moyen d’atteindre les électeurs. Reuters a indiqué la semaine dernière que des consultants aident les candidats à adapter leurs contenus en ligne afin d’influencer les réponses de ChatGPT, Claude et Gemini. Selon la National Conference on Citizenship, environ 25 % des électeurs éligibles ont interrogé des chatbots sur des candidats politiques au moment de décider pour qui voter.