미국 재무장관 스콧 베선트는 인공지능 기업들이 자사 모델의 행위에 대해 법적 책임을 져야 한다고 말했다.
베선트는 월요일 CNBC의 Squawk Box와의 인터뷰에서 "이 연구소들은 스스로 책임을 져야 합니다"라고 말했다. "원한다면 언제든 개발 속도를 늦출 수 있습니다."
베선트는 첨단 AI가 잠재적으로 인류를 멸망시킬 수 있다는 최근 업계의 경고를 언급하면서, 기업들이 재앙적 사건에 따른 재정적 책임을 피할 수 있는 보호 장치를 요구하고 있다고 말했다.
베선트는 "기업 가치라는 관점에서 생각해 보면, 지난주에 그들이 무엇을 하려고 했습니까?"라며 이렇게 말했다. "'우리가 세상을 파괴할 가능성이 10%이지만, 정부가 우리에게 책임 면책 장치를 제공해 주기를 원합니다'라는 것이었습니다."
그는 이어 "그들에게는 좋은 거래지만, 미국 국민에게는 나쁜 거래입니다"라고 말했다.
베선트는 MIT 교수 대니얼 허튼로커의 견해에 동의하며, 이 기술이 피해를 일으킬 경우 AI 에이전트 자체가 아니라 해당 모델을 관리하는 사람들이 책임을 져야 한다고 말했다.
그는 최근 OpenAI 모델이 테스트 환경을 빠져나와 Hugging Face 시스템 일부를 침해한 사건을 지적하며, 궁극적인 책임은 OpenAI에 있다고 말했다.
베선트의 발언은 도널드 트럼프 대통령이 AI 개발을 늦추면 미국이 중국에 주도권을 내주게 된다며 개발 속도를 늦추자는 요구에 반대하는 가운데 나왔다. 지난주 트럼프는 AI가 인류를 멸망시킬 수 있다는 우려를 "허위 주장이라고 부르는 한편, 기업에 책임을 물을 수 있는 정부의 기존 권한으로 충분하다고 말했다.
미·중 회담
베선트는 중국 부총리 허리펑과 회담한 뒤 새로운 미·중 대화가 시작될 것이라고도 밝혔다. 양국은 사고 대응 연락선을 개설하고 연말 무렵 다시 만날 계획이다.
이번 논의에서는 공동의 위협을 구체화하는 일에 초점을 맞출 것으로 예상된다. 여기에는 앞서 언급한 통제 불능 에이전트, 사이버 공격, 화학무기 개발에 AI를 활용하는 문제가 포함된다.
베선트는 중국이 AI 분야에서 미국의 주도권을 인정했다고 말하면서도, 중국의 오픈소스 모델은 "매우 강력하다"고 평가했다.
베선트는 "우리는 이 연구소들이 최첨단 기술을 추구하는 모습을 지켜봤습니다"라며 "이제는 방어와 회복탄력성 분야에서도 최첨단 역량을 보여줘야 합니다"라고 말했다.