Anthropic a publié un nouveau cadre conçu pour suivre la vitesse à laquelle l’IA se développe elle-même et la qualité de la supervision des agents d’IA, alors que son CEO Dario Amodei pousse en faveur d’un ralentissement à l’échelle du secteur.
Dans un article de blog publié jeudi, Anthropic a présenté trois mesures portant sur la part de ses travaux de recherche et développement en IA réalisée par l’IA, le suivi des agents et l’allocation de la capacité de calcul.
« Alors que le monde réfléchit au rythme à adopter pour les technologies de pointe, nous devrions tout faire pour réduire au minimum l’écart entre ce que savent les laboratoires de pointe et ce que sait le public », a déclaré l’entreprise dans un autre post sur X. « Cela signifie mieux mesurer le développement de l’IA, publier nos résultats et donner à la société la possibilité de décider comment utiliser ces informations. »
L’entreprise a déclaré qu’elle prévoyait d’intégrer des évaluateurs tiers ayant accès à des systèmes et des données internes comparables à ceux utilisés par ses propres équipes d’évaluation des risques.
R&D pilotée par l’IA
Anthropic a notamment indiqué que Claude « mène » 26 % des travaux de R&D en IA de l’entreprise en août 2026, contre 25 % en juillet et 14 % en juin, ce qui montre que le modèle d’IA peut accomplir la majeure partie d’une tâche « de bout en bout à partir d’une instruction de haut niveau », sous la supervision d’un humain.
L’entreprise a indiqué que plus de 90 % de ses travaux de R&D en IA impliquent désormais une collaboration entre l’IA et les humains, ou davantage.
Concernant la deuxième mesure, Anthropic a déclaré qu’en août, environ 30 000 agents d’IA effectuaient à tout moment des travaux de recherche et d’ingénierie sur sa plateforme interne la plus utilisée. L’entreprise a précisé que toutes les actions des agents passaient par un système de surveillance automatisé.
Plus précisément, sur plus de 1 milliard de décisions, ses systèmes de surveillance en ligne ont bloqué 0,002 % des actions, soit environ 1 sur 47 000. Les systèmes de surveillance hors ligne ont également signalé pour examen 1 à 2 transcriptions sur 1 000.
L’entreprise a déclaré que, sur environ 100 000 signalements hebdomadaires, près de 50 cas hautement prioritaires avaient été transmis à un niveau supérieur. Selon l’article, ces actions bloquées sont censées faire l’objet d’un examen humain dans la semaine.
Allocation de la puissance de calcul
Anthropic surveille également la répartition de la puissance de calcul entre les travaux de sécurité et les autres activités de R&D.
L’entreprise a déclaré avoir examiné son utilisation totale de la puissance de calcul au cours d’une semaine d’observation allant du 13 au 20 juillet. Environ 6 % de la puissance de calcul utilisée pour la R&D en IA a été consacrée à la sécurité, tandis qu’environ 12 % de la puissance de calcul utilisée pour la R&D en IA pilotée par l’IA a été consacrée à la sécurité.
Le développeur de Claude a également précisé qu’il publiait ce cadre sous forme de prototype pour favoriser la transparence à l’échelle du secteur. « Nous espérons montrer l’exemple en matière de transparence en publiant ces mesures, et nous continuerons à le faire », a déclaré l’entreprise.
Le dernier cadre d’Anthropic intervient après que son CEO Dario Amodei a appelé à ralentir le rythme du développement de l’IA de pointe durant le week-end, en invoquant des risques croissants pour la sécurité. Sam Altman, d’OpenAI, Demis Hassabis, de Google DeepMind, et le fondateur de xAI, Elon Musk, ont également exprimé des inquiétudes similaires ou soutenu cette idée.
De même, OpenAI a publié un nouveau cadre mercredi pour signaler les problèmes d’alignement des modèles d’IA et a présenté six rapports de cas concernant des comportements involontaires de modèles documentés par son équipe au cours des six derniers mois.
« Les exemples de problèmes d’alignement peuvent aider à identifier les difficultés que d’autres développeurs d’IA pourraient rencontrer lorsque leurs systèmes atteindront des capacités similaires, révéler des faiblesses dans les mécanismes de protection ou remettre en question les hypothèses relatives au comportement des modèles », a écrit OpenAI. « Le partage de ces résultats permet à d’autres d’étudier les mêmes problèmes, de tester nos explications et d’améliorer les mesures d’atténuation. »