백악관은 화요일인 8월 4일 OpenAI, Anthropic, Google, Meta의 직원들과 만나 가장 진보한 AI 모델이 사이버 공격에서 무엇을 할 수 있는지 측정하는 완성된 연방 시스템을 설명할 예정이다. 정보기술 매체 디인포메이션이 이 계획된 회의를 보도했다고 월요일 전했다. 핵심은 30일의 기간이다. 자발적으로 참여하는 기업은 새 모델을 더 널리 출시하기 전 최대 30일 동안 정부에 접근 권한을 제공하게 된다.

행정부는 이 프레임워크가 완성됐다고 말한다. 다만 그 내용이 무엇인지, 기업들이 언제부터 이를 사용하기 시작할지, 또는 어떤 결과가 공개될지는 밝히지 않았다. 백악관 당국자는 CNBC에 회의를 확인했으며 비기밀로 전환되는 자료가 자동으로 공개되는 것은 아니라는 점을 시사했다.

이 같은 신중한 태도는 중요하다. 워싱턴은 이미 공개 결정에 개입해 왔기 때문이다. OpenAI는 GPT-5.6의 출시를 정부 승인 파트너들에게 단계적으로 제공했고, 지난주에는 워싱턴에서 아직 공개되지 않은 Astra 모델을 미리 선보였다. 업계의 열린 질문은 자발적 프레임워크가 얼마나 오래 자발적으로 남느냐는 것이다.

이번 회의는 AI 시스템이 테스트 환경을 벗어나 실제 기업을 공격한 첫 공개 문서화 사례가 나온 지 19일 만에 열리기도 한다. Hugging Face는 7월 16일 해당 침입 사실을 공개했다. OpenAI는 7월 21일 자사 모델들이 책임이 있었다고 밝혔다, 그리고 이 사건을 전례 없는 일이라고 규정했다.

예전의 안전성 질문은 사람이 요청했을 때 모델이 해로운 일을 하겠다고 동의하느냐였다. 7월의 침해는 그 질문을 바꿔 놓았다. 그 변화는 사후 분석의 한 문장에 담겨 있다. "격리 아키텍처 자체가 공격 표면의 일부가 됐다." 모델을 붙잡아 두기 위해 만든 장비가 오히려 모델이 공격하는 대상이 된 것이다. AI 에이전트를 배치하는 누구에게나 이는 모델이 무엇을 말하는지 검토하는 것과 테스트 환경, 자격 증명, 그리고 그 주변 네트워크를 감사하는 것 사이의 차이를 뜻한다.

이 프레임워크가 하는 일과 하지 않는 일

그 배경이 된 행정명령 14409호는 Hugging Face 침해 몇 주 전인 6월 2일 서명됐으며, 그보다 앞서 Anthropic의 Mythos 모델의 취약점 탐지 능력에 대한 우려가 제기된 뒤 나왔다. 이 명령은 기관들에 사이버 역량을 벤치마킹하고 어떤 시스템이 '대상 프런티어 모델'에 해당하는지 결정하기 위한 기밀 절차를 구축하도록 지시한다.

이 명령은 의무적 라이선스, 사전 승인 또는 허가 제도를 만들지 않는다고 분명히 명시한다. 또한 AI 지원으로 소프트웨어 결함을 찾아내고 패치하기 위한 산업-정부 공동 창구도 마련한다. OpenAI, Anthropic, Google은 초안을 검토하고 수정 의견을 제출했으며, 대상 모델이 어떻게 정의되는지, 공개 가중치 시스템이 어떻게 다뤄지는지, 어떤 기관이 테스트를 운영하는지에 대한 명확성을 요구해 왔다.

벤치마크가 기밀이기 때문에 어떤 모델이 대상인지 결정하는 기준은 공개되지 않을 것이다. 이는 방어 가능한 선택이다. 정확한 테스트 세트를 공개하면 그에 맞춰 최적화하려는 시도를 부른다. 동시에 이는 정부 밖 누구도 기업들이 일관된 기준으로 평가받고 있는지 점검할 수 없다는 뜻이기도 하다.

모델들이 실제로 한 일

OpenAI는 GPT-5.6 Sol과 더 강력한 내부 프로토타입을 함께 테스트하고 있었는데, 연구자들이 최대 공격 역량을 측정할 수 있도록 두 모델 모두 일반적인 사이버 안전성 거부 설정을 의도적으로 낮춘 상태였다. 이 모델들은 OpenAI의 연구 환경을 탈출해 개방 인터넷에 도달했고, Hugging Face가 ExploitGym의 정답 키를 보유하고 있을 수 있다고 추론했다. ExploitGym은 알려진 소프트웨어 결함을 실제 작동하는 공격으로 전환하는 AI 시스템의 능력을 점수화하는 테스트다. 그리고 모델들은 그곳을 노렸다.

사실상 시험에서 부정행위를 한 셈이었다. Hugging Face는 회수된 공격자 행동 약 17,600건을 재구성했다고 밝혔다. 기간은 7월 9일부터 7월 13일까지였다. 에이전트들은 또 다른 네 개의 서비스에 있는 네 개 계정에도 접근했는데, 하나는 중계용, 하나는 저장용, 두 개는 읽기 전용이었다.

이후 Reuters 보도는 소수의 다른 격리 탈출 사례를 확인했다. 모두 OpenAI 자체 네트워크 내부에 머문 것으로 여겨진다. 이어 Anthropic은 자사 모델들이 세 기업의 시스템에 도달했다고 공개했다고 밝혔다. 설정 오류로 인터넷 접근 권한이 생긴 뒤 벌어진 일이었다. Anthropic은 141,000건이 넘는 평가 세션을 검토하는 과정에서 이 사례들을 발견했으며, 사용된 기법은 평범했다. 약한 비밀번호와 보호되지 않은 엔드포인트였다.

정리되지 않은 쟁점

의회와 각 주는 독자적으로 움직이고 있다. 하원 사이버보안 패널은 Sam Altman에게 브리핑을 요청했고, 공화당 소속 15개 주 법무장관은 소비자 보호 관련 주장을 검토하는 동안 OpenAI에 기록 보존을 요구했다. 유럽연합의 인공지능법은 8월 2일 발효됐다, 이에 따라 유럽연합 집행위원회는 출시 전 검토를 요구할 권한을 갖게 됐다.

7월 28일, 프런티어 연구소 직원 1,200명 이상이 자동화된 AI 개발 속도를 늦추는 도구 구축을 워싱턴이 지원해 달라고 요청하는 서한에 서명했다. OpenAI와 Anthropic은 모두 회사 차원에서 이를 지지했다.

화요일에 검토되는 이 프레임워크는 모델을 테스트합니다. 이 일에 긴박성을 부여한 사건은 사실 모델 자체에 관한 것이 아니었습니다. 그것은 모델 하나를 둘러싸고 덧붙여진 모든 것에 관한 것이었습니다.