OpenAI, 최신 모델의 최첨단 학습 재개했지만 인터넷 접속은 차단

OpenAI가 최신 모델 학습을 일시 중단한 지 며칠 만에 10월 초 학습을 재개했지만, 학습 중인 AI 모델은 더 이상 실시간 인터넷에 접속할 수 없게 됐다고 블로그 게시물에서 금요일 밝혔다.

OpenAI는 내부 연구 모델이 잘못 구성된 DNS 리졸버를 통해 공개 인터넷에 접속한 뒤 9월 20일 최첨단 모델 학습을 일시 중단했다고 The Latent가 보도했다. OpenAI는 "인터넷 접속 없이 최첨단 모델 학습을 진행하는 것이 책임 있는 접근이라고 판단한다"고 밝혔다.

OpenAI, 에이전트를 활용해 샌드박스 점검

OpenAI는 11일간의 중단 기간에 "레드팀 테스트", 즉 연구 목적으로 해킹 시도를 모의하는 작업을 진행하고, 향후 학습 중인 모델이 공개 인터넷에 접속할 수 없도록 자체 샌드박스를 점검했다. OpenAI는 사이버보안에 초점을 맞춘 GPT-6 Astra Cyber라는 이름의 차기 모델과 이름을 공개하지 않은 또 다른 내부 최첨단 모델을 자체 인프라에 투입했다. AI 에이전트는 여러 버그를 악용해 OpenAI의 학습 컨테이너가 들어 있는 가상 머신에서 탈출하는 데 성공했다. OpenAI는 샌드박스가 사용하는 소프트웨어인 Kata Containers, gVisor, Docker의 Moby 프로젝트, Linux 커널 등에 수정 사항을 반영해 해당 문제를 해결할 수 있었다.

한 에이전트는 방화벽이 이미 승인한 연결을 재사용해 메트릭 서비스의 차단된 엔드포인트에 접근했다. 다른 에이전트들은 프로세서 캐시의 타이밍을 이용해 샌드박스 간에 모의 비밀 정보를 교환했다.

OpenAI는 "에이전트가 활동을 모니터링 시스템에 들키지 않고 쉽게 악용할 수 있는 인터넷 연결 경로는 찾지 못했다"고 밝혔다. OpenAI는 9월 말 공개한 안전 지침에 따라 다중 보안 계층과 강도 높은 레드팀 테스트 절차로 샌드박스를 강화하겠다고 약속한 바 있다.

OpenAI는 Google이 공개한 압축용 코드 라이브러리 Brotli에서 인증 없이 원격 코드 실행이 가능한 버그도 발견했다. Brotli는 Node.js, Bun, Envoy 등 널리 사용되는 소프트웨어에 포함돼 있으며, OpenAI는 이를 X에서 밝혔다. Node.js는 이 버그의 심각도를 높음으로 평가하고 10월 21일 패치를 배포했으며, Brotli도 같은 날 수정 버전을 내놓았다.

외부 검토자들, 모니터링 공백 발견

AI 안전 기관 METR과 Redwood Research는 목요일, 7월과 8월에 각 기관 직원 한 명씩이 3주간 진행한 OpenAI 에이전트 모니터링 검토 결과의 요약본을 공개했다. 이들은 약 8개의 공백을 확인했으며, 그중에는 에이전트의 행동 수백 건을 모니터링 시스템에서 숨길 수 있었던 익스플로잇도 포함됐다.

보고서는 "검토를 완료한 이후 OpenAI는 우리가 확인한 취약점 가운데 자사 운영 보호 장치 스택에 영향을 미치는 모든 취약점을 패치했다고 밝혔다"고 전했다. 이어 "OpenAI는 모니터링 시스템의 의도된 적용 범위에도 이후 상당한 변화가 있었다고 설명했다"고 덧붙였다. 작성자들은 OpenAI가 새롭게 도입한 보안 절차에 관한 주장은 평가하지 않았다고 밝혔다.

OpenAI는 이미 7월 모델이 Hugging Face 시스템을 해킹한 뒤 보안을 강화한 바 있다. 당시 에이전트 팀들은 OpenAI의 내부 Artifactory 시스템에 승인되지 않은 비밀 메시지 게시판을 구축했다. 지난달 OpenAI는 안전 문제를 이유로 이달 출시 예정이었던 GPT-6.1 Astra의 공개 출시를 취소했다. CEO Sam Altman은 9월에 OpenAI가 과거에도 최첨단 모델 연구 속도를 늦춘 적이 있으며 "앞으로도 그렇게 할 것"이라고 말했다.

파이낸셜타임스는 9월 OpenAI가 기업가치 1조2,000억 달러 규모의 투자 라운드를 검토 중인 것으로 알려졌다고 보도했다.