Le contrôleur financier de la ville de New York, Mark Levine, exhorte Anthropic à reconsidérer son projet d’introduction en bourse le mois prochain, avertissant qu’une entrée en bourse pourrait détourner l’entreprise d’IA de ses travaux sur la sécurité alors que les inquiétudes concernant les risques liés à l’IA se multiplient.

Levine a déclaré à l’émission Squawk Box de CNBC jeudi qu’une introduction en bourse prendrait du temps et pourrait soumettre Anthropic à des pressions l’incitant à prendre des décisions contraires à ses priorités en matière de sécurité.

« Cela les détournera sans aucun doute de leurs travaux sur la sécurité », a déclaré Levine jeudi sur CNBC. « Une fois cotée, l’entreprise devra faire face à de nouvelles pressions en faveur de la croissance et des bénéfices, qui entreront en conflit avec les travaux sur la sécurité. Nous avons aussi des intérêts en jeu dans cette affaire, par l’intermédiaire des caisses de retraite de la ville de New York, car nous suivons des indices. »

Mercredi, Levine a envoyé une lettre au PDG d’Anthropic, Dario Amodei, exhortant l’entreprise à suspendre son projet d’entrée en bourse le mois prochain, alors que les inquiétudes concernant la sécurité s’intensifient et qu’un fossé se creuse entre certains dirigeants du secteur de l’IA et l’administration Trump sur la manière dont cette technologie devrait être développée.

Un chercheur, qui a auparavant travaillé chez Anthropic et chez sa rivale OpenAI, a publiquement accusé les deux entreprises d’aller trop vite et de mettre l’humanité en danger. Depuis, les deux PDG des entreprises ont soutenu les appels en faveur de garde-fous et déclaré qu’un rythme de développement plus lent était essentiel.

Pendant ce temps, l’administration Trump a choisi une autre voie dans sa course pour prendre de l’avance sur la Chine. Au début du mois, Trump a rebaptisé l’IA « super intelligence » et créé un groupe de travail chargé de coordonner l’action du gouvernement fédéral en matière d’IA auprès des consommateurs, des groupes de défense de l’intérêt public, des organisations religieuses, des fournisseurs d’infrastructures critiques et des entreprises d’IA.

Au cours du mois dernier, des dirigeants de l’IA ont rencontré Trump et signé un accord volontaire prévoyant notamment un partenariat avec un auditeur externe et la mise en place de contrôles internes. Levine a toutefois déclaré que ces mesures étaient insuffisantes et ne permettaient pas de « répondre aux enjeux du moment ».

« Compte tenu de ces préoccupations, Anthropic devrait préciser de quelle manière elle mettra en œuvre des audits et des contrôles appropriés, le périmètre des éléments que ces contrôles sont censés couvrir, ainsi qu’un calendrier prévisionnel », a déclaré Levine. « Cela devrait également inclure une explication indiquant si ces contrôles permettront réellement de répondre à votre appel à ralentir le rythme auquel les capacités des modèles d’IA progressent, et de quelle manière. »

Anthropic n’a pas immédiatement répondu à une demande de commentaire.

Dans le cadre de ses fonctions de contrôleur financier, Levine est également conseiller en investissement des caisses de retraite de la ville, qui figurent parmi les plus importantes des États-Unis, avec 325 milliards de dollars d’actifs, selon sa lettre envoyée à Anthropic.

« En tant qu’investisseurs potentiels à l’avenir, nous sommes concernés par cette question et nous pensons qu’il faut ralentir jusqu’à ce qu’ils maîtrisent mieux les enjeux de sécurité », a déclaré Levine.