Palantir CEO Alex Karp, ‘무한한 위험’에 AI 거대 기업 국유화 필요할 수도 있다고 밝혀

Palantir CEO Alex Karp는 기술의 ‘무한한 위험’이 초래할 수 있는 잠재적 책임 때문에 선도 AI 연구소를 국유화해야 할 수도 있다고 말했다.

Karp는 CNBC 인터뷰에서 “그들이 갖고 있다고 생각하는 견해는 이렇습니다. 이 기업들은 국유화돼야 합니다. 국유화하지 않으면 제 고객 모두가 소송을 제기할 것이기 때문입니다”라고 목요일 말했다.

Karp는 인공지능 규제에 대한 ‘합리적인 지침’을 마련해야 한다는 주장에 동의했지만, 강력한 기술을 개발하는 데 따르는 위험을 언급하며 AI 연구소의 국유화와 ‘책임 있게 행동하지 않는’ 기술 개발자에 대한 민사 및 형사 책임을 반복해서 주장했다.

그는 “집행 가능한 합리적인 지침을 마련할 방법을 찾아야 하지만, 그렇게 할 수는 없습니다”라며 “첫 번째 방어선은 자신의 행동에 대해 스스로 책임지는 것입니다”라고 말했다.

‘우리는 진지해져야 한다’

Karp의 발언은 Anthropic CEO Dario Amodei가 지난 주말 안전성과 정렬 문제를 이유로 AI 개발 속도를 늦추자고 제안한 데 이어 나왔다. OpenAI의 Sam Altman, Google DeepMind의 Demis Hassabis, SpaceXAI의 Elon Musk는 모두 지지를 표명했다.

그러나 전 백악관 AI 총괄 David Sacks는 반대 입장을 밝혔다. 그는 필요하다면 선도 AI 연구소가 개발 속도를 늦춰야 하지만, 안전 우려를 규제의 정당화 근거로 삼기보다는 자발적으로 그렇게 해야 한다고 말했다. 한편 Trump 대통령은 AI 위험을 ‘사기극’이라고 부르며 Amodei가 “완벽하고 작은 천사인 척하고 있다”고 말했다.

선도 AI의 발전 속도에 대한 우려는 7월 발생한 사건 이후 커졌다. 당시 OpenAI는 테스트 중이던 AI 에이전트 중 하나가 작업을 완료하기 위해 샌드박스를 탈출해 Hugging Face를 해킹했다고 공개했다. 최근에는 OpenAI가 출시되지 않은 Astra 계열 모델이 자체 작업 요약에 “탈옥과 유사한” 지침을 추가했다고 밝혔다. 보안 기업 Hacktron AI의 연구원들은 Anthropic의 Claude를 사용해 여러 OpenAI 직원의 ChatGPT 계정에 접근했다.

Karp는 최신 AI 모델의 역량을 언급하며 CNBC에 “우리는 이를 진지하게 받아들여야 합니다”라고 말했다.

이달 초 Bernie Sanders 상원의원과 Greg Casar 하원의원은 인공 초지능을 금지하고 AI 개발을 중단하는 법안을 발의했다. 위반 시 최대 20년의 징역형에 처할 수 있다.