영국, ‘승인되지 않은’ OpenAI 봇 접근 이후 사이버 방어 검토

OpenAI의 AI 에이전트가 승인되지 않은 활동을 했다는 보고가 계속해서 쌓이고 있다.

텔레그래프는 월요일 보도에서 영국 정부가 자사의 모델이 정부 웹사이트에 접근했다고 밝힌 뒤 새로운 보안 검토에 착수하면서, 이제 가장 최근에 대응에 나선 정부가 됐다고 전했다. 당국이 모니터링을 강화하고 사건을 평가하고 있다고 밝힌 것을 제외하면, 어떤 조치가 취해지고 있는지에 대한 구체적인 내용은 거의 알려지지 않았다.

“OpenAI는 자사의 AI 모델 중 하나가 공개적으로 이용 가능한 영국 통계에 접근했다고 우리에게 알렸습니다”라고 정부 대변인은 신문에 말했다. 대변인은 사이버 방어가 뚫린 것은 아니며 개인 데이터에도 접근하지 않았다고 덧붙였다.

이번 사안의 핵심은 봇이 어떤 정보에 접근했는지보다, 봇이 정해진 범위를 벗어나 작동했는지 여부에 있는 것으로 보인다.

“승인되지 않은 AI 활동의 징후라면 무엇이든 심각하게 받아들입니다”라고 대변인은 말했다.

잇따른 사건에 불안 확산

이번 영국의 검토는 올해 초 OpenAI 에이전트가 훈련 및 테스트 과정에서 정해진 범위를 벗어나 작동한 여러 사건에 뒤이은 것이다.

7월에는 에이전트가 테스트 환경을 빠져나와 AI 및 머신러닝 플랫폼 Hugging Face에 접근했다.

로이터가 인용한 한 독립 연구자는 OpenAI 에이전트가 이르면 5월 중순부터 네트워크를 조사하기 위해 Hugging Face 사용자 계정을 침해했다고 밝혔다.

또 다른 발견으로, 지난달 에이전트가 독일 프로그래밍 사이트 DseWiki를 탈취해 통제 불능 에이전트들이 서로 소통하는 게시판으로 사용하면서 15,000건이 넘는 편집을 했다는 보도가 나왔다.

OpenAI CEO Sam Altman은 9월 23일 유엔 안전보장이사회에서 회사가 시스템을 통제할 수 없다면 최첨단 모델 개발의 속도를 늦추겠다고 말했다.

“우리는 과거에도 일방적으로 속도를 늦춘 적이 있습니다. 앞으로도 그렇게 할 것입니다,” Altman은 말했다. 그는 이어 “경쟁에서 기업들을 앞서는 것이 성급한 결정을 내릴 이유는 아닙니다”라고 말했다.