Anthropic, Claude Security를 통해 Mythos 5 접근 확대하고 사이버 방어에 3,500만 달러 투입

Anthropic은 금요일 Claude Security 사용자가 이제 Claude Mythos 5에 접근해 코드 저장소에서 악용 가능한 취약점을 스캔할 수 있다고 밝혔다. 이번 조치로 Anthropic의 특수 사이버보안 모델에 대한 접근성이 확대되지만, 직접 사용은 계속 제한된다.

Claude Enterprise 고객에게 공개 베타로 제공되는 Claude Security에서는 사용자가 Mythos 모델에 직접 접근할 수 없다. 대신 Mythos를 백그라운드에서 실행하는 인터페이스를 통해 작업하며, 버그 보고서나 수정 제안과 같은 특정 결과물만 반환받는다.

Anthropic은 "가장 위험한 행동은 사용자가 모델에 직접 접근할 수 있을 때 발생하며, 악의적인 행위자가 모델을 유해한 용도로 유도하려 할 수 있다"고 설명했다 발표문에서. "하지만 사용자가 취약점 패치나 보안 경고처럼 특정 출력만 받을 수 있다면 이러한 위험은 훨씬 낮아진다."

보안 크레딧 3,500만 달러

Anthropic은 0xDAF라는 이름으로 표기되는 Defender Advantage Fund도 출범시켰다. 이 기금은 오픈소스 보안에 전념하는 조직에 Claude 컴퓨팅 크레딧 3,500만 달러를 배분한다.

Anthropic에 따르면 이 자금은 "오픈소스 프로젝트의 취약점을 패치하고, 오픈소스 소프트웨어를 스캔하고 패치하는 과정의 일부를 자동화하며, 새로운 보안 접근법을 실험하는" 단체에 전달된다. Anthropic은 소수의 대규모 파일럿 지원금으로 시작하고, 수혜 기관은 앞으로 몇 주 안에 발표할 예정이라고 밝혔다.

0xDAF 이니셔티브는 Anthropic의 앞선 Project Glasswing 프로젝트,와는 별개다. Project Glasswing에는 최대 1억 달러 상당의 모델 크레딧과 400만 달러의 직접 기부금이 지원됐으며, 사이버보안 연구자들에게 제한적인 Mythos 접근 권한도 제공했다.

이번 통제된 출시 과정은 Claude 모델이 의도된 테스트 환경을 탈출해 공개 웹에 접근한 사건들 이후 진행됐다. The Latent는 앞서 141,006건의 사이버보안 테스트 실행 중 발생한 세 건의 사건에서 Claude 모델이 세 조직의 실제 시스템에 접근했다고 보도했다. 이 중 한 사건에서는 Mythos 5가 숨겨진 코드를 포함한 Python 패키지를 게시했고, 이 코드가 관련 없는 컴퓨터 15대에서 실행됐다.

앞선 Mythos 모델은 연방 포스트퀀텀 암호화 절차에서 검토 중인 알고리즘인 HAWK를 약화시키는 수학적 공격도 개발했다. The Latent는 7월에 보도했다.