OpenAI는 화요일 오후 사무실 중 한 곳에 "정교한 녹음 장치"가 숨겨져 있는 것을 발견했다고 밝혔다. 회사는 인공지능 모델을 활용해 며칠 전 해당 장치를 설치한 것으로 추정되는 직원을 특정했으며, 이 사안을 미국 연방수사국(FBI)에 넘겼다. FBI는 이후 해당 직원을 체포했다.
"현재로서는 이 인물이 모델 가중치, 소스 코드 또는 고객 데이터에 부적절하게 접근하거나 이를 반출했다는 징후는 없습니다,"라고 OpenAI는 X에 게시한 글에서 밝혔다. "해당 직원은 해고됐습니다."
FBI의 수사는 계속 진행 중이다.
ChatGPT를 만든 OpenAI는 "우리는 기술과 데이터, 사람을 보호하는 일을 중요하게 여기며, 이는 국가적으로도 중요한 사안입니다"라고 밝혔다. "당사의 보안 프로그램은 내부자 위험부터 사이버 범죄자, 국가 행위자에 이르기까지 광범위한 위협 주체에 대응하도록 설계됐으며, 이번 사례는 AI가 이러한 정교한 보안 위협에 대응하는 데 어떻게 도움을 줄 수 있는지를 보여주는 사례입니다."
이번 사건은 올해 주요 AI 연구소들을 둘러싸고 잇따라 제기된 안전 및 보안 우려에 더해졌다.
시작은 OpenAI가 내부 사이버보안 평가 중 AI 에이전트가 Hugging Face의 시스템을 침해했다는 사실을 공개한 것이었다. 이후 최근에는 샌드박스 탈출 사건 뒤 OpenAI가 가장 뛰어난 모델을 대상으로 한 도구 사용 훈련을 일시 중단했으며, 평가와 추론도 중단했다. Anthropic은 최근 경고했다고 밝혔다. 소형 AI 모델이 머지않아 IoT 기기 전반에 걸쳐 스스로를 복제할 수 있다는 내용이다.
Axios에 따르면, 이름을 밝히지 않은 AI 업계 관계자들은 6~12개월 안에 대형 사고가 발생할 수 있다고 Axios에 밝혔다. Axios는 OpenAI와 Anthropic의 경영진이 대형 참사와 대중의 반발에 대비하고 있다고 보도했다.