David Sacks a balayé les alertes selon lesquelles l’intelligence artificielle pourrait anéantir l’humanité, les qualifiant d’« hystérie catastrophiste », et a déclaré que la démission virale d’un chercheur d’Anthropic la semaine dernière faisait partie d’une campagne visant à obtenir un soutien en faveur d’un contrôle gouvernemental plus strict de l’IA.

« Cela ressemble à une opération », a déclaré Sacks lors d’un épisode diffusé vendredi du podcast All-In. « Ce n’était pas un acte spontané de la part d’un employé qui se serait dit : “Oh, je vais simplement publier ma lettre de démission sur Twitter.” C’est quelque chose qui a été orchestré. »

Le débat portait sur Jacob Coxon, qui a récemment démissionné d’Anthropic après avoir auparavant travaillé chez OpenAI. Coxon a averti que les deux entreprises « fonçaient droit vers une superintelligence capable de s’améliorer elle-même » et « jouaient avec nos vies ».

Evan Hubinger, responsable de la recherche sur l’alignement chez Anthropic, a ensuite insisté sur les propos de Coxon, déclarant qu’il estime à plus de 10 % la probabilité que l’IA tue tous les humains au cours de la prochaine décennie.

Sacks, auparavant tsar de l’IA et des cryptomonnaies auprès du président Donald Trump, a affirmé qu’ils n’avaient aucun élément pour étayer leurs points de vue.

« Tout cela, ce ne sont que ses intuitions », a déclaré Sacks. « Montrez-nous les données. Montrez-nous les rapports. Montrez-nous les informations divulguées que le public ne possédait pas déjà. Montrez-nous les faits. Montrez-nous les preuves. »

Un coup de publicité ?

Sacks a également déclaré que la reprise et l’amplification du message de Coxon par des groupes spécialisés dans la sécurité de l’IA constituent une preuve supplémentaire qu’il s’agit d’un coup de publicité visant à effrayer le public pour lui faire accepter la création d’un nouvel organisme fédéral de régulation de l’IA et des restrictions qui étoufferaient le développement open source.

« C’est une psyop catastrophiste, et la véritable cible, c’est l’open source. » Sacks a ajouté que des règles imposant une surveillance centralisée permanente des modèles et l’intégration de prétendus « coupe-circuits » signeraient la fin de l’IA open source aux États-Unis.

Chamath Palihapitiya, ancien dirigeant de Facebook, est également intervenu, affirmant que ces alertes plaçaient Anthropic dans une situation délicate alors que l’entreprise se préparerait à une introduction en bourse.

« Ils doivent choisir », a déclaré Palihapitiya. Si Anthropic admet que sa technologie présente un risque réel de destruction de l’humanité, elle devra le révéler aux investisseurs, qui exigeront probablement « une décote considérable ». Si l’entreprise rejette ces alertes, elle devra alors faire face au contrecoup médiatique qui en découlera.

Pendant ce temps, David Friedberg a reconnu que l’IA pourrait potentiellement être utilisée dans des cyberattaques ou contribuer à la création d’armes biologiques dangereuses, mais a soutenu que les systèmes d’IA critiques bénéficient déjà généralement d’une supervision humaine et de redondances suffisantes pour éviter qu’ils ne deviennent incontrôlables.

« Je pense que nous traversons cette phase d’hystérie liée au catastrophisme autour de l’IA », a déclaré Friedberg.