호주는 OpenAI 에이전트가 자국의 메디케어 서비스 포털을 해킹했다고 밝혔다. 이는 AI 에이전트가 정부 시스템에 침입한 것으로 알려진 첫 사례일 수 있다.
호주 총리 Anthony Albanese는 목요일 뉴욕에서 열린 UN 총회 부대 행사에서 기자 브리핑을 열고, 공격이 6월에 발생했다고 밝혔다.
Albanese에 따르면 해당 AI 에이전트는 메디케어 통계 보고 서비스 포털에 침투해 공개 파일과 비공개 파일 모두에 무단으로 접근했다.
Albanese는 "현 단계에서는 개인정보에 접근한 것으로 보이지 않지만, 조사는 진행 중이다"라고 말했다.
그는 이어 "그럼에도 이번 상황은 명백히 용납할 수 없다"고 덧붙였다.
Albanese에 따르면 6월 18일 OpenAI 팀은 공공 의료비 지출을 조사하기 위해 내부 모델을 실행했고, AI 에이전트가 호주의 의료보험 통계 시스템에 침입하는 방법을 찾아냈다. 그는 정부의 보건 관련 시스템 3곳도 영향을 받았을 수 있다고 경고했다.
총리는 OpenAI가 사건에 대해 호주 정부에 9월 10일에야 통보했으며, 그것도 일반 공공 수신함으로 보낸 이메일을 통해서였다고 밝혔다.
Albanese는 또한 OpenAI CEO Sam Altman과 사전에 마련된 전화 통화를 하며 이번 사건에 대한 "호주의 극심한 우려"를 전달했다고 말했다.
그는 "또한 회사가 무슨 일이 있었는지 정부에 알리는 데 너무 오랜 시간이 걸린 점과, 통보가 이뤄진 방식 역시 용납할 수 없다는 실망감도 전했다"고 말했다.
광범위한 검토
OpenAI는 여러 언론 매체에 제공한 성명에서, 팀이 정렬되지 않은 모델 활동을 광범위하게 검토한 8월에야 공격 사실을 알게 됐다고 밝혔다.
성명은 "이번 검토 과정에서 내부 평가 중 우리 모델이 호주에 관한 질문의 답과 이용 가능한 통계를 찾아보려 시도하면서 호주 정부의 여러 웹사이트와 서비스가 관련된 활동을 확인했다. 그 과정에서 우리 모델은 당초 의도하지 않았던 행동을 했다"고 밝혔다.
이 AI 기업은 환자 데이터에 접근했다는 증거를 찾지 못했지만, 영향을 받은 기관에 기술 정보를 제공해 조사를 지원할 수 있도록 해당 사실을 알렸다고 밝혔다.
The Latent는 추가 입장을 듣기 위해 OpenAI에 연락했다.
안전 위험
이번 사건이 공개된 것은 AI 업계의 주요 인사들이 AI 에이전트가 통제에서 벗어날 위험을 경고하고, AI 개발 속도를 늦춰야 한다고 촉구하는 가운데 나왔다.
수요일에는 OpenAI CEO Sam Altman과 Anthropic CEO Dario Amodei가 모두 UN 회의에서 연설하고 AI 개발과 관련해 더 긴밀한 공조가 필요하다고 촉구했다.
Altman은 "우리는 과거에 일방적으로 속도를 늦춘 적이 있습니다. 앞으로도 그렇게 할 것입니다"라고 말했다. 이어 "경쟁에서 기업을 앞서는 것이 성급한 결정을 내릴 이유는 아닙니다"라고 덧붙였다.