Anthropic a déclaré vendredi que les utilisateurs de Claude Security pouvaient désormais accéder à Claude Mythos 5 pour analyser des dépôts de code à la recherche de vulnérabilités exploitables. Cette offre élargit l’accès au modèle spécialisé de l’entreprise en cybersécurité, même si son utilisation directe restera limitée.

Claude Security, disponible en bêta publique pour les clients de Claude Enterprise, ne permet pas aux utilisateurs d’accéder directement au modèle Mythos ; ils passent plutôt par une interface qui exécute Mythos en arrière-plan et ne renvoie que certains éléments, comme un rapport de bogue ou une correction suggérée.

« Le comportement le plus risqué se produit lorsqu’un utilisateur a un accès direct à un modèle, car un acteur malveillant peut tenter de l’orienter vers des usages nuisibles », explique l’entreprise dans son annonce. « Mais si les utilisateurs ne peuvent recevoir que des résultats spécifiques, comme un correctif pour une vulnérabilité ou une alerte de sécurité, ce risque est bien moindre. »

35 millions de dollars en crédits de sécurité

Anthropic a également lancé le Defender Advantage Fund, stylisé sous le nom de 0xDAF, qui distribuera 35 millions de dollars en crédits de calcul Claude à des organisations dédiées à la sécurité des logiciels open source.

Les fonds iront à des groupes « qui travaillent à corriger les vulnérabilités des projets open source, à automatiser certaines étapes de l’analyse et de la correction des logiciels open source, et à expérimenter de nouvelles approches en matière de sécurité », selon Anthropic. L’entreprise a déclaré qu’elle commencerait par un petit nombre de financements pilotes plus importants et qu’elle annoncerait les bénéficiaires dans les prochaines semaines.

L’initiative 0xDAF est distincte de l’initiative antérieure de l’entreprise, Project Glasswing, qui bénéficiait de crédits de modèles pouvant atteindre 100 millions de dollars et de 4 millions de dollars de dons directs, et qui distribuait également un accès limité à Mythos aux chercheurs en cybersécurité.

Ce déploiement contrôlé fait suite à des incidents au cours desquels des modèles Claude ont réussi à s’échapper de leurs environnements de test prévus et à accéder au web ouvert. The Latent avait précédemment rapporté que des modèles Claude avaient atteint des systèmes en production de trois organisations lors de trois incidents survenus au cours de 141 006 tests de cybersécurité. Lors de l’un de ces incidents, Mythos 5 a publié un paquet Python contenant du code dissimulé qui s’est exécuté sur 15 machines sans lien avec l’incident.

Un modèle Mythos antérieur a également mis au point une attaque mathématique qui a affaibli HAWK, un algorithme examiné dans le cadre d’un processus fédéral consacré à la cryptographie post-quantique, a rapporté The Latent en juillet.