뉴욕시 감사관, 커지는 AI 안전 우려 속 Anthropic에 IPO 연기 촉구

뉴욕시 감사관 Mark Levine은 AI 관련 위험에 대한 우려가 커지는 가운데 기업공개가 AI 기업의 안전 업무를 방해할 수 있다며, 다음 달로 예정된 Anthropic의 기업공개를 재고하라고 촉구했다.

Levine은 목요일 CNBC의 Squawk Box에서 IPO가 시간을 소요하고 Anthropic이 안전 우선순위와 충돌하는 결정을 내리도록 압박받게 할 수 있다고 말했다.

Levine은 목요일 CNBC에서 "이는 의심할 여지 없이 그들의 안전 업무를 방해할 것"이라고 말했다. "기업이 상장하면 성장과 수익에 대한 새로운 압박을 받게 되고, 이는 안전 업무와 충돌하게 될 것입니다. 뉴욕시 연기금이 지수를 추종하기 때문에 우리도 이 사안에 직접적인 이해관계가 있습니다."

Levine은 수요일 Anthropic CEO Dario Amodei에게 서한을 보내, 커지는 안전 우려와 기술 개발 방식을 둘러싸고 일부 AI 업계 지도자들과 Trump 행정부 사이의 갈등이 깊어지는 상황에서 다음 달 상장 계획을 중단하라고 촉구했다.

과거 Anthropic과 경쟁사 OpenAI에서 모두 근무했던 한 연구자는 두 회사가 지나치게 빠르게 움직이며 인류를 위험에 빠뜨리고 있다고 공개적으로 비판했다. 이후 두 회사의 CEO는 모두 안전장치 마련을 지지하며 더 느린 개발 속도가 필수적이라고 밝혔다.

한편 Trump 행정부는 중국을 앞서기 위한 경쟁을 벌이는 가운데 다른 경로를 택했다. 이달 초 Trump는 AI를 "초지능"으로 개칭하고, 연방정부가 소비자, 공익단체, 종교 단체, 핵심 인프라 제공업체 및 AI 기업과 AI 관련 협력을 조율하도록 하는 태스크포스를 구성했다.

지난 한 달 동안 AI 업계 지도자들은 Trump를 만나 자발적 협약에 서명했으며, 여기에는 외부 감사기관과 협력하고 내부 통제 장치를 마련한다는 내용이 포함됐다. 그러나 Levine은 이러한 조치가 충분하지 않으며 "현 시점의 요구에 부응하기에는" 부족하다고 말했다.

Levine은 "이러한 우려를 고려할 때 Anthropic은 적절한 감사와 통제 장치를 어떻게 시행할지, 이러한 통제 장치가 다루도록 설계된 범위가 어디까지인지, 그리고 예상 일정이 무엇인지 구체적으로 공개해야 합니다"라고 말했다. "또한 이러한 통제 장치가 AI 모델의 역량 발전 속도를 늦추라는 귀사의 요구에 충분히 부응할 수 있는지, 그렇다면 어떻게 가능한지에 대한 설명도 포함해야 합니다."

Anthropic은 논평 요청에 즉시 응답하지 않았다.

Levine은 감사관으로서 미국 최대 규모 중 하나인 뉴욕시 연기금의 투자 자문 역할도 맡고 있으며, Anthropic에 보낸 서한에 따르면 이 연기금의 운용자산은 3250억 달러에 이른다.

Levine은 "따라서 미래의 … 투자자로서 우리는 이 사안을 중요하게 생각하며, 안전 문제를 더 잘 통제할 수 있을 때까지는 개발 속도를 늦춰야 한다고 봅니다"라고 말했다.