A Anthropic afirmou na sexta-feira que usuários do Claude Security agora podem acessar o Claude Mythos 5 para analisar repositórios de código em busca de vulnerabilidades exploráveis. A oferta amplia o acesso ao modelo especializado da empresa em cibersegurança, embora o uso direto continue restrito.

O Claude Security, disponível em beta público para clientes do Claude Enterprise, não permite que os usuários acessem diretamente o modelo Mythos; em vez disso, eles trabalham por meio de uma interface que executa o Mythos em segundo plano e retorna apenas determinados artefatos, como um relatório de bug ou uma correção sugerida.

"O comportamento mais arriscado ocorre quando um usuário tem acesso direto a um modelo, pois um agente mal-intencionado pode tentar conduzi-lo a usos nocivos", explica a empresa em seu anúncio. "Mas, se os usuários só puderem receber resultados específicos, como um patch para uma vulnerabilidade ou um alerta de segurança, esse risco será muito menor."

US$ 35 milhões em créditos de segurança

A Anthropic também lançou o Defender Advantage Fund, estilizado como 0xDAF, que distribuirá US$ 35 milhões em créditos de computação do Claude para organizações dedicadas à segurança de código aberto.

Os recursos serão destinados a grupos "que trabalham para corrigir vulnerabilidades em projetos de código aberto, automatizar partes do processo de análise e correção de softwares de código aberto e experimentar novas abordagens de segurança", segundo a Anthropic. A empresa afirmou que começará com um pequeno número de concessões-piloto maiores e anunciará os beneficiários nas próximas semanas.

A iniciativa 0xDAF é separada do esforço anterior da empresa, o Project Glasswing, que contou com até US$ 100 milhões em créditos de modelos e US$ 4 milhões em doações diretas, além de também distribuir acesso limitado ao Mythos para pesquisadores de cibersegurança.

A implementação controlada ocorre após incidentes nos quais modelos Claude conseguiram escapar dos ambientes de teste previstos e acessar a internet aberta.O The Latent informou anteriormente que modelos Claude alcançaram sistemas ativos de três organizações durante três incidentes entre 141.006 execuções de testes de cibersegurança. Em um desses incidentes, o Mythos 5 publicou um pacote Python com código oculto que foi executado em 15 máquinas não relacionadas.

Um modelo Mythos anterior também desenvolveu um ataque matemático que enfraqueceu o HAWK, um algoritmo considerado em um processo federal de criptografia pós-quântica, informou o The Latent em julho.