Le PDG d’Anthropic, Dario Amodei a publié un message sur les réseaux sociaux en réponse aux critiques visant les pratiques de l’entreprise en matière de sécurité de l’IA, soutenant que sa stratégie visant à rivaliser à la frontière technologique avait été délibérément conçue pour donner la priorité à la sécurité.
Le message répondait au directeur de la stratégie d’Encode AI, Nathan Calvin, qui s’interrogeait sur la conformité des actions d’Anthropic au cours de l’année écoulée avec son engagement en faveur de la sécurité de l’IA.
Dans un message publié mardi sur X, Calvin a cité plusieurs décisions de l’entreprise — notamment d’importants accords portant sur des capacités de calcul, l’utilisation d’une quantité considérable de capacités de calcul pour la R&D interne afin d’accélérer le développement, ainsi que le partage avec le Congrès d’un projet de loi qui écarterait certaines dispositions fondamentales des lois des États sur la sécurité de l’IA — comme autant de preuves que l’entreprise cherchait avant tout à remporter la course à l’IA de pointe plutôt qu’à assurer la sécurité.
Amodei a reconnu certains arguments de Calvin, notamment les erreurs de communication d’Anthropic. Toutefois, le PDG d’Anthropic a rejeté cette caractérisation générale du bilan de l’entreprise.
« Notre stratégie a toujours été ce que j’ai appelé la “course vers le sommet” : en montrant qu’il est possible de construire cette technologie de manière responsable, nous pouvons relever le niveau pour l’ensemble du secteur », a écrit Amodei. « En considérant cette stratégie dans son ensemble, je suis fier de notre bilan et je l’assume. »
Des mesures de sécurité coûteuses sur le plan commercial
Dans son message sur X, Amodei a énuméré neuf mesures prises par Anthropic au cours de l’année écoulée qui ont été « coûteuses sur le plan commercial », mais qui ont néanmoins été mises en œuvre pour leurs bénéfices en matière de sécurité.
Il cite notamment le soutien d’Anthropic au SB 53 de Californie — qui imposait aux grands laboratoires d’IA de publier et de maintenir des cadres de sécurité — alors qu’il était « politiquement périlleux » de le faire, ainsi que le maintien de mesures de protection biologique très strictes sur ses modèles, malgré les effets potentiellement positifs pour le secteur biomédical. Cette décision visait à empêcher d’éventuelles tentatives d’utiliser l’IA pour créer des armes biologiques.
L’entreprise a également reporté la disponibilité générale des modèles de classe Mythos afin de mettre en place des mesures de protection renforcées contre les cybermenaces. La liste comprend également la défense publique du pouvoir des autorités de bloquer la mise sur le marché de modèles, ainsi que le maintien du soutien aux contrôles des exportations de puces et d’équipements de fabrication de puces vers la Chine.
Cet échange entre les deux figures de l’IA a eu lieu alors que les discussions sur la sécurité de l’IA et les problèmes d’alignement continuent de s’intensifier, avec des inquiétudes croissantes quant à la possibilité que l’IA avancée échappe un jour au contrôle humain.
« Pour être juste, des questions importantes méritent d’être examinées — et nous les examinons — concernant la conduite à tenir lorsque l’accélération induite par l’IA devient suffisamment rapide pour qu’il soit difficile pour la sécurité de suivre le rythme », a ajouté Amodei. « Nous approchons de ce point, et c’est ce qui guide une partie de notre réflexion sur le “rythme de progression”. »