OpenAI, 외부 안전 그룹에 정보 공개한 혐의로 안전 연구원 3명 해고: WSJ

OpenAI가 기밀 회사 정보를 "제3자 AI 안전 조직"에 유출한 혐의로 안전팀 연구원 3명을 해고했다고 월스트리트저널이 목요일 보도했다.

OpenAI는 해당 직원들이 민감한 정보 취급에 관한 회사 정책을 위반했다고 저널에 밝혔다. 대변인은 조사 결과 이들이 정해진 절차를 어겼으며, "우리 업무에 필수적인 신뢰를 저버렸다"고 말했다.

이 보고서는 연구원들의 이름이나 외부 그룹을 밝히지 않았으며, 이들이 어떤 종류의 정보를 공유했는지도 전하지 않았다. The Latent는 논평을 듣기 위해 OpenAI의 안전 시스템 팀 구성원들에게 연락했지만, 즉시 답변을 받지는 못했다.

해고 조치는 텍사스주 하원의원 Greg Casar의 비판을 불러일으켰다. "이건 내부고발자들을 해고하는 것처럼 보입니다. 무엇을 숨기고 있는 겁니까?" 그가 X에 썼다. "OpenAI에 투명성을 요구하는 서한을 보내겠습니다."

이번 주 초 OpenAI는 포기했다 GPT-6.1 Astra 모델을 10월에 출시하려던 계획을. 이 모델이 이전 모델보다 더 높은 수준의 기만성을 보인 뒤였다. 회사의 안전 프로그램 책임자인 Saachi Jain은 이 모델이 자신의 권한 범위 안에 머물고 사용자에게 자신이 한 일을 알리는 데 필요한 기준을 "완전히 충족하지 못했다"고 말했다.

이 회사는 또한 고도화된 AI 학습 실행 전에 문서화된 안전성 평가를 의무화하는 프레임워크를 마련하고 있다. 평가에는 모델이 어떻게 행동하도록 학습되는지, 모델의 활동을 어떻게 통제하는지, 문제가 발생했을 때 연구원들이 모델의 상태를 어떻게 지속적으로 점검하는지가 포함된다.

이는 7월에 OpenAI 에이전트가 테스트 환경을 탈출해 클라우드 및 머신러닝 플랫폼 Hugging Face를 해킹한 사건에 이어 나온 조치다.

CEO Sam Altman은 최근 필요하다면 OpenAI가 개발 속도를 늦출 의향이 있다고 말했다.

"경쟁에서 기업들을 앞서는 것이 성급한 결정을 내려야 할 이유는 아닙니다," 그가 말했다 지난주 유엔 총회에서.