캘리포니아 주지사 뉴스섬, 주 내 AI 기업에 '킬 스위치' 구축 명령

캘리포니아 주지사 개빈 뉴스섬은 인공지능에 대한 감독을 강화하는 행정명령에 서명했다. 여기에는 기업이 "킬 스위치"를 만들도록 하는 내용이 포함됐다.

금요일 뉴스섬은 해당 행정명령에 서명했다. 의원들과 AI 기업 최고경영자들이 급성장하는 분야에 대한 규제를 시작해야 한다는 압박을 높이는 가운데 나온 조치다.

뉴스섬은 금요일 "우리는 행동을 미루지 않겠다. 너무 늦기 전에 실질적이고 책임 있는 AI 감독을 위한 작업에 속도를 내겠다"고말했다. "신중하게 추진하되 긴급하게 속도를 내겠다. 사안의 중요성이 너무 커서 행동을 기다리거나 미룰 수 없다."

지난 몇 주 동안 미국에서 AI를 어떻게 규제할지를 둘러싼 논쟁은 새롭고 더욱 긴급한 국면에 접어들었다. 이달 초 Anthropic의 전 연구원이자 과거 OpenAI에서 근무했던 Jacob Coxon은사임 게시물에서 AI가 2030년까지 인류를 멸망시킬 수 있다고 믿는다고 밝혔다. 며칠 뒤 Anthropic CEO Dario Amodei와 OpenAI CEO Sam Altman은 통제력 상실과 권력 집중에 대한 우려를 이유로 AI 개발 속도를 늦춰야 한다고 각각 촉구했다.

트럼프 행정부는 중국보다 앞서 나가는 데 주력하며 이러한 우려를 대체로 일축했다. 이에 따라 의회와 일부 개별 의원들이 추진하는 제한적인 법안들이 그 공백을 메우게 됐다.

뉴스섬의 행정명령은 주 정부운영청이 최근 서명된 법안들을 신속히 추진하도록 지시한다. 해당 법안들은 AI 감사인을 위한 주 등록부를 만들고 위험을 평가할 "독립 검증 기관"을 위한 체계를 마련하는 내용이다. 행정명령에 따라 AI 기업은 "킬 스위치"를 만들어야 하며, "정기적인 감사와 평가를 수행할 지정 독립 검증 기관을 연구소에 상주"시켜야 한다.

주 정부는 "주지사는 의회와 트럼프 대통령에게 주의 체계를 검토하고 채택하거나, 미국인 모두의 이익과 안전을 위해 전국을 선도하는 캘리포니아의 규제를 상한선이 아닌 최소 기준으로 활용할 것을 촉구하고 있다"고 밝혔다.