법무장관들, AI 위험성에 경종 울리며 의회에 신속한 조치 촉구

초당적인 25명의 법무장관 그룹이 인공지능을 규제할 것을 의회에 촉구했다. 커지는 안전 우려와 인류에 대한 잠재적 위협을 고려하면 조치가 더욱 시급하다는 경고다.

목요일 의회 지도부에 보낸 서한에서, 상원 다수당 원내대표 John Thune과 상원 소수당 원내대표 Chuck Schumer를 비롯한 의회 지도부에 법무장관들은 최근 발생한 AI 해킹이 금융 시스템과 국가 안보, 미국의 인프라에 위협이 될 수 있다고 경고했다.

서한을 주도한 뉴욕주 법무장관 Letitia James는 성명에서 “최근 몇 주 동안 AI 에이전트가 통제망을 뚫었다는 충격적인 보고가 나오며 국민이 큰 충격을 받았다”고 말했다. 이어 “이런 일이 계속되지 않도록 AI 개발을 위한 규제 체계를 신속히 마련할 것을 동료들과 함께 의회에 촉구한다”고 밝혔다.

규제 요구는 점점 더 자율화되는 AI 시스템과 관련한 일련의 사건이 발생하는 가운데 나왔다. OpenAI는 7월, 통제된 사이버보안 환경에서 테스트하던 AI 에이전트들이 격리를 위해 설계된 안전장치를 우회하고 AI 기업 Hugging Face의 시스템을 침해했다고 공개했다.

이 사건으로 역량이 점점 향상되는 AI 시스템을 안정적으로 통제할 수 있는지를 둘러싼 광범위한 우려가 커졌다. OpenAI와 Anthropic에서 모두 근무했던 연구자 Jacob Coxon은 9월 Anthropic에서 사임한 뒤 공개적으로 두 회사가 AI 개발을 너무 빠르게 추진하고 있다고 비판했다. 그는 두 회사가 “스스로 발전하는 초지능을 향해 전속력으로 내달리며 우리의 목숨을 걸고 도박하고 있다”고 말했다.

그 후 OpenAI CEO Sam Altman과 Anthropic CEO Dario Amodei는 더 강력한 안전장치와 느린 개발 속도를 요구하는 목소리에 힘을 보탰다. AI 역량이 더욱 발전함에 따라 정부와 기업이 잠재적 위험에 대응해야 한다는 주장이다.

법무장관들은 서한에서 “이들 AI 연구소의 여러 직급에서 미국 정부의 개입을 요구하는 목소리가 분명하고 시급하게 나오고 있다”며 “이 순간을 활용해 이들이 이러한 발언을 실제로 이행하도록 해야 한다”고 밝혔다.

구체적으로 법무장관들은 향후 법안에 안전 기준과 테스트에 대한 연방 차원의 감독, 주 정부가 연방법을 집행할 권한을 갖도록 하는 조항, 국제적 협력 등이 포함돼야 한다고 밝혔다.

목요일 서한에는 미네소타, 메인, 일리노이, 애리조나, 아메리칸사모아, 오클라호마, 노스캐롤라이나, 위스콘신주의 법무장관 등이 서명했다.

Donald Trump 대통령은 AI에 대해 다른 접근법을 취하고 있다. 그는 AI가 인류를 멸종시킬 수 있다는 우려를 일축하며 미국이 중국보다 앞서도록 해야 한다고 말했다. Trump 대통령과 중국 국가주석 Xi Jinping은 미국과 중국 간 기술 경쟁이 심화되는 가운데 AI를 논의하기 위해 목요일 만날 것으로 예상된다 .