민주당 소속 Mark Warner 상원의원과 Brian Schatz 상원의원은 안전성 우려가 커지는 가운데 인공지능 산업을 규제하기 위한 포괄적인 법안을 발의했다.

‘인공지능 위험 관리 및 보안법’으로 불리는 35쪽 분량의 이 법안은 최근 AI 모델을 둘러싼 여러 해킹 사건과 경고에 뒤이어 나왔다. 지난 몇 달 동안 OpenAI와 Anthropic을 비롯한 주요 AI 기업들이 해킹 피해를 공개했으며, AI가 인류에 미칠 수 있는 위협에 대한 우려도 커졌다.

Warner 상원의원은 목요일 상원 본회의에서 “인공지능을 통해 많은 긍정적인 일이 일어날 것”이라면서도, AI 기업들이 자사 모델을 통제하지 못할 수도 있다고 말했다.

Warner 의원은 “이는 우리 생애 가장 큰 변화가 될 텐데, 우리에게는 최소한의 안전 프로토콜조차 없습니다”라며 “우리는 이 대형 최첨단 AI 기술 기업들이 올바른 일을 하리라는 선의에 전적으로 의존하고 있습니다”라고 말했다.

상원의원들에 따르면 이 법안은 상무부 산하에 인공지능 안전위원회를 설치하고, AI 모델을 개발하는 기업들이 해당 모델을 공개 출시하기 최소 45일 전에 위원회가 모델에 접근할 수 있도록 해야 한다. 새 위원회에는 ‘강제력 있는 기준’을 마련하는 임무도 부여되며, 이를 따르지 않을 경우 기업은 하루 최대 $250,000의 벌금을 부과받을 수 있다.

Warner 의원은 안전 점검이 매우 중요하다고 말했다.

그는 목요일 “규제 기관의 감독이 없다면 비행기에 타지 않을 것입니다. 자동차에도 타지 않을 것이고, 새로운 금융 상품도 이용하지 않을 것입니다”라며 “이처럼 중대한 사안에서 우리는 이 순간을 놓쳐서는 안 됩니다”라고 말했다.