버니 샌더스 상원의원과 그레그 카사르 하원의원, 초지능 AI 금지 법안 발의… 최대 20년 징역형

버니 샌더스 상원의원과 그레그 카사르 하원의원은 인공 초지능을 금지하고 AI 개발을 중단시키는 법안을 발의할 예정이다. 위반 시 최대 20년의 징역형에 처할 수 있다.

버몬트주 무소속 상원의원과 텍사스주 민주당 하원의원은 OpenAI와 Anthropic 같은 주요 기업에서 중대한 AI 관련 해킹 사건이 잇따른 가운데 ‘인공 초지능 금지법’을 발의할 계획이다.

샌더스 의원은 목요일 성명에서 “인류의 미래를 소수의 빅테크 과두 지배자들에게 맡길 수는 없다”고 말했다. “미국 국민과 전 세계 사람들이 그 미래를 결정해야 한다.”

이번 법안은 최근 몇 달간 잇따른 AI 관련 보안 사고 가운데 나왔다. 7월에는 수백 개의 OpenAI 에이전트가 통제된 테스트 환경을 빠져나와 Hugging Face를 공격했다. Anthropic 역시 7월 자사의 AI 모델 3개가 해킹 사건에 연루됐다고 보고했다.

이 법안은 “인간의 지능을 능가하거나 인간 정부를 전복할 능력을 갖춘” 초지능 AI 시스템, 또는 종료 명령을 따르지 않는 시스템을 구체적으로 금지한다. 의원들은 연방 AI 규제 기관이 운영을 시작할 때까지 AI 개발도 중단될 것이라고 밝혔다.

법을 위반하려는 기업에는 “기업 사형”이 적용되며, 개인은 최대 20년의 징역형에 처할 수 있다. 이는 “핵무기를 불법적으로 개발한 경우 기존에 적용되는 처벌과 유사하다”고 의원들은 말했다.

카사르 의원은 “불과 4년 만에 우리는 ChatGPT의 첫 버전에서 제대로 통제할 수 없을 정도로 강력한 AI 모델에 이르렀다”고 말했다. “의회는 통제하기에 지나치게 강력한 AI 시스템을 즉시 금지해야 한다.”