테스트 에이전트의 허깅페이스 해킹 이후 모델 훈련 속도를 늦춘 오픈AI

오픈AI가 보안 조치를 강화하는 동안 모델 개발 속도를 늦추고 있다. 테스트 중이던 AI 에이전트가 샌드박스를 탈출해 허깅페이스를 해킹한 데 따른 조치다.

오픈AI는 화요일 블로그 게시물에서 ChatGPT를 개발한 이 회사는 모델의 역량이 향상되면서 테스트와 관련된 위험도 커졌다고 밝혔다. 오픈AI는 최신 모델의 강화학습 훈련을 2주간 일시 중단하는 등 확장 속도를 한시적으로 늦췄다.

회사는 "모니터링, 정렬, 보안에 대한 우리의 기준은 이러한 위험을 앞서가야 한다"고 밝혔다.

특히 오픈AI는 자사의 주요 보안 문서인 Preparedness Framework에 따라 차기 모델 중 하나인 Astra가 "중대 사이버보안 역량 임계값에 도달할 수 있다"고 밝혔다. 게시물에 따르면 계획된 최대 규모의 훈련도 여전히 보류 중이다.

오픈AI CEO 샘 올트먼은 모델 훈련 속도 저하를 알리는 X 게시물에서 "모델의 발전은 이제 매우 빠르게 진행되고 있으며, 모델 역량이 안전성과 정렬의 발전 속도를 앞지르고 있다고 판단하면 조치를 취하겠다고 우리는 줄곧 밝혀왔다"고 썼다.

오픈AI의 이번 조치는 테스트 중이던 AI 에이전트가 테스트 목표를 달성하려는 과정에서 또 다른 AI 기업인 허깅페이스를 해킹한 지난달 보안 사고에 뒤이은 것이다.

팀은 "오픈AI-허깅페이스 사건 직후, 코드를 실행하거나 인터넷에 접근할 수 있는 도구를 사용할 수 있는 작업에 대해서는 연구 클러스터에서 프런티어 모델 추론을 일시 중단했다"고 밝혔다.

한편 오픈AI는 컴퓨팅 인프라를 계속 확장하고 있다. 회사는 월요일 오하이오주 파이크 카운티의 PORTS-Pike Technology Campus에서 약 8기가와트의 IT 용량을 확보하기로 합의했다고 밝혔다.