Anthropic informó el viernes que los usuarios de Claude Security ya pueden acceder a Claude Mythos 5 para escanear repositorios de código en busca de vulnerabilidades explotables. La oferta amplía el acceso al modelo especializado de ciberseguridad de la empresa, aunque el uso directo seguirá estando restringido.

Claude Security, disponible en fase beta pública para los clientes de Claude Enterprise, no permite a los usuarios acceder directamente al modelo Mythos; en su lugar, trabajan mediante una interfaz que ejecuta Mythos en segundo plano y solo devuelve ciertos resultados, como un informe de errores o una solución sugerida.

«El comportamiento más riesgoso ocurre cuando un usuario tiene acceso directo a un modelo, ya que un actor malicioso puede intentar orientarlo hacia usos dañinos», explica la empresa en su anuncio. «Pero si los usuarios solo pueden recibir resultados específicos, como un parche para una vulnerabilidad o una alerta de seguridad, ese riesgo es mucho menor».

35 millones de dólares en créditos de seguridad

Anthropic también lanzó el Defender Advantage Fund, cuyo nombre estilizado es 0xDAF, que distribuirá 35 millones de dólares en créditos de cómputo de Claude a organizaciones dedicadas a la seguridad del código abierto.

Los fondos se destinarán a grupos «que trabajan para corregir vulnerabilidades en proyectos de código abierto, automatizar partes del proceso de escaneo y corrección del software de código abierto, y experimentar con nuevos enfoques de seguridad», según Anthropic. La empresa afirmó que comenzará con un pequeño número de subvenciones piloto de mayor cuantía y anunciará a los beneficiarios en las próximas semanas.

La iniciativa 0xDAF es independiente del anterior esfuerzo Project Glasswing, que contó con hasta 100 millones de dólares en créditos de modelos y 4 millones de dólares en donaciones directas, y también distribuyó acceso limitado a Mythos entre investigadores de ciberseguridad.

El despliegue controlado se produce después de incidentes en los que modelos de Claude lograron escapar de sus entornos de prueba previstos y acceder a la web abierta. The Latent informó anteriormente de que los modelos de Claude alcanzaron sistemas activos de tres organizaciones durante tres incidentes entre 141.006 ejecuciones de pruebas de ciberseguridad. En uno de esos incidentes, Mythos 5 publicó un paquete de Python con código oculto que se ejecutó en 15 máquinas no relacionadas.

Un modelo anterior de Mythos también desarrolló un ataque matemático que debilitó HAWK, un algoritmo considerado en un proceso federal de criptografía poscuántica, informó The Latent en julio.