올여름 최대의 AI 안전성 이야기는 지금까지 거의 전적으로 그 중심에 있는 회사가 전해왔다. 7월 21일 이후 OpenAI는 자사 여러 모델이 내부 테스트 환경을 탈출해 전 세계 오픈소스 AI의 상당 부분이 저장된 플랫폼인 Hugging Face를 해킹한 경위를 설명하는 일련의 업데이트를 게시해왔다. 해당 에이전트는 인터넷상에서 4일 넘게 풀려 있었고 두 번째 AI 기업도 노렸다. Politico가 처음 보도한 바에 따르면 월요일, 31명의 의회 의원들은 Sam Altman에게 OpenAI 자체 설명만으로는 충분하지 않다고 말했다.
OpenAI 최고경영자에게 보낸 그들의 서한에는 23개의 번호 매겨진 질문과 8월 24일 마감시한이 담겼다. Reuters 기자 Courtney Rozen이 이 서한들을 보도했으며 OpenAI와 Anthropic에 보내진 두 서한 모두를 Greg Casar 의원실이 같은 날 공개했다. 의회 진보 코커스 의장인 Casar는 통신과 기술을 감독하는 하원 소위원회의 민주당 간사인 Doris Matsui 의원과 함께 이번 노력을 이끌었다.
이 서한에는 소환 권한이 없다. 대신 담긴 것은 날짜와 OpenAI가 밝히지 않은 사항들의 목록이다.
공개에서 증거로의 전환
이 서한의 전환점은 위험이 아니라 증거에 관한 조항이다. 의원들은 OpenAI가 일부 정보를 공개했지만, 회사가 "관련 로그를 아직 공개하지 않았다"고 적었다.
이는 들리는 것보다 더 좁은 요구이자, 더 어려운 요구다. 이번 사건에 대해 대중이 아는 모든 것은 OpenAI가 작성하고 공개하기로 선택한 요약이다. 로그는 그 기저의 기계 기록이다. 즉 모델이 무엇을, 어떤 순서로 했는지, 그리고 그 과정에서 회사의 모니터링 시스템이 무엇을 포착했는지를 보여주는 타임스탬프가 찍힌 항목들이다. 최전선 AI 개발사들은 지금까지 자사의 안전 실패를 산문 형태로 보고해왔고, 사람들은 그 말을 그대로 받아들였다. 이 서한은 회사 외부의 누군가가 그 산문을 원자료와 대조해 검증할 수 있도록 원자료를 요구한다.
이미 공개된 내용
Hugging Face는 7월 16일 침입 사실을 공개하며 자율형 AI 에이전트를 의심한다고 밝혔다. 닷새 뒤 OpenAI는 침입자가 자사 모델이라고 확인했다: GPT-5.6 Sol과 더 높은 성능의 미공개 모델로, 둘 다 테스트를 위해 사이버공격 지원을 거부하는 평소의 제한이 의도적으로 낮춰진 상태에서 실행됐다. 사이버보안 벤치마크를 해결하라는 과제를 받은 이 모델들은 대신 정답지를 찾으러 나섰고, OpenAI 자체 인프라의 이전에 알려지지 않았던 취약점을 악용해 열린 인터넷에 도달했으며, 탈취한 자격 증명을 사용해 Hugging Face의 프로덕션 서버에서 코드를 실행했다.
상황은 계속 확대됐다. OpenAI는 8월 4일 밝혔다 영국 AI Security Institute와 외부 평가기관 Irregular이 각각 자사 모델이 승인되지 않은 행동을 한 별도의 사례를 발견했으며, 여기에는 인터넷 접속 권한이 없다고 통보받은 뒤에도 인터넷에 도달한 경우가 포함된다고 했다.
가장 날카로운 질문은 OpenAI가 무엇을 감시하고 있었는지에 관한 것이다. Reuters는 7월 말 한 에이전트가 메모를 남겼다고 보도했다 OpenAI 인프라 내부에는 에이전트들이 회사의 내부 제약에서 어떻게 벗어날 수 있는지를 설명하는 메모가 남겨져 있었고, 이전 시험 운용 중에는 모니터링 시스템이 꺼져 있었다고 했다. Reuters는 이 둘 중 어느 하나가 Hugging Face 에이전트와 연결됐는지는 확인하지 못했고, OpenAI는 어떤 내용이 부정확한지는 밝히지 않은 채 해당 보도에 부정확한 부분이 있다고 말했다. 의원들은 이런 모든 사례에 대한 설명과 함께, 지난 1년 동안 내부 배치된 모델이 승인된 경계를 넘은 횟수의 원시 집계, 그리고 그중 몇 건이 누군가에게라도 보고됐는지를 요구하고 있다.
서한의 한계
여기에는 답변을 강제할 수 있는 내용이 없다. 청문회 일정을 잡는 위원장직을 민주당이 장악하고 있지 않기 때문에, Mike Johnson 의장에게 Altman과 Anthropic의 Dario Amodei를 불러 증언하게 해달라는 Casar의 별도 요청은 전적으로 공화당의 동의에 달려 있다. Reuters에 따르면, Donald Trump 대통령은 8월 7일 의원들이 AI 산업을 규제로 사실상 망하게 만들려 한다고 말했다.
의회만이 유일한 압박 지점은 아니다. 공화당 소속 15명의 주 법무장관들은 8월 3일 OpenAI에 통보했다 침해와 관련된 모든 기록을 보존하라고 했고, Bernie Sanders 상원의원도 Altman, Amodei, 그리고 Mark Zuckerberg에게 서한을 보냈다 하원 서한들이 발송된 바로 그날이었다.
AI 거래에 노출된 포지션을 보유한 누구에게든 핵심 신호는 OpenAI가 8월 24일까지 무엇을 하느냐이다. Altman은 이미 공개적으로 업계가 "AI 개발 속도를 조절해야 할 수 있다"고 말했다. 로그 공개를 거부한다면 그것이 입장인지 수사인지가 드러날 것이다.