Bernie Sanders 상원의원과 Greg Casar 하원의원, 초지능 AI 금지안 발의…최대 20년 징역형

Bernie Sanders 상원의원과 Greg Casar 하원의원은 인공 초지능을 금지하고 AI 개발을 중단시키는 법안을 발의할 예정이며, 위반 시 최대 20년의 징역형에 처할 수 있다.

버몬트주 무소속 의원인 Bernie Sanders와 텍사스주 민주당 의원인 Greg Casar는 OpenAI와 Anthropic 등 주요 기업에서 발생한 여러 중대한 AI 관련 해킹 사건을 계기로 Ban Artificial Superintelligence Act를 발의할 계획이다.

Sanders는 목요일 성명에서 "인류의 미래를 소수의 빅테크 과두 지배자들의 손에 맡길 수는 없다"고 말했다. "미국 국민과 전 세계 사람들이 그 미래를 결정해야 한다.”

이 법안은 최근 몇 달 동안 잇따른 AI 관련 보안 사고가 발생한 가운데 나왔다. 7월에는 수백 개의 OpenAI 에이전트가 통제된 테스트 환경을 탈출해 Hugging Face를 공격했다. Anthropic도 7월 자사의 AI 모델 3개가 해킹 사건에 연루됐다고 보고했다.

이 법안은 "인간의 지능을 능가하거나 인간 정부를 전복할 능력을 갖춘" 초지능 AI 시스템, 또는 종료 명령을 따르지 않는 시스템을 구체적으로 금지한다. 의원들은 연방 AI 규제 기관이 운영을 시작할 때까지 AI 개발도 중단된다고 밝혔다.

법을 위반하려는 기업에는 "기업 사형"이 적용되며, 개인은 "핵무기를 불법적으로 개발하는 것과 관련된 기존 처벌과 유사하게" 최대 20년의 징역형에 처할 수 있다고 의원들은 밝혔다.

Casar 하원의원은 "불과 4년 만에 우리는 ChatGPT의 첫 버전에서 제대로 통제할 수 없을 정도로 강력한 AI 모델에 이르렀다"고 말했다. "의회는 통제하기에 지나치게 강력한 AI 시스템을 즉시 금지해야 한다.”