Anthropic CEO Dario Amodei는 회사의 AI 안전 관행에 대한 비판에 대응해 소셜미디어 게시물을 올렸다. 그는 기술의 최전선에서 경쟁하는 자사의 전략이 안전을 우선시하도록 의도적으로 설계됐다고 주장했다.
The 이 게시물은 Encode AI 최고전략책임자 Nathan Calvin의 글에 대한 답변으로 올라왔다. Calvin은 지난 1년간 Anthropic의 행보가 AI 안전에 대한 회사의 약속과 일치하는지 의문을 제기했다.
Calvin은 화요일 X 게시물에서 대규모 컴퓨팅 계약, 개발을 가속하기 위해 내부 연구개발에 상당한 컴퓨팅 자원을 투입한 일, 주(州) AI 안전법의 핵심 내용을 무력화할 수 있는 법안 초안을 의회와 공유한 일 등을 회사가 안전보다 최첨단 AI 경쟁에서 승리하는 데 주력했다는 증거로 열거했다.
Amodei는 특히 Anthropic의 소통 방식에서 발생한 실수와 관련해 Calvin의 지적 일부를 인정했다. 그러나 Anthropic CEO는 회사의 지금까지의 행보에 대한 전반적인 평가에는 동의하지 않았다.
Amodei는 "우리의 전략은 언제나 제가 '정상을 향한 경쟁'이라고 부르는 것이었습니다. 책임감 있게 기술을 구축할 수 있다는 점을 보여줌으로써 업계 전체의 기준을 높일 수 있습니다"라고 썼다. 이어 "그 전략을 전체적으로 봤을 때, 저는 우리의 행보가 자랑스럽고 앞으로도 그 입장을 고수합니다"라고 덧붙였다.
상업적으로 큰 비용이 드는 안전 조치의 이점
Amodei는 X 게시물에서 Anthropic이 지난 1년간 안전상의 이점을 위해 실행했지만 "상업적으로 큰 비용이 든" 조치 9가지를 열거했다.
여기에는 캘리포니아의 SB 53이 대형 AI 연구소에 안전 프레임워크를 공개하고 유지하도록 의무화했을 당시 이를 지지한 일이 포함된다. 당시 지지는 "정치적으로 매우 위험한" 일이었다. 또한 생의학 분야에 잠재적으로 긍정적인 영향을 줄 수 있음에도 자사 모델에 매우 강력한 생물학적 안전장치를 유지한 것도 포함된다. 이는 AI를 이용해 생물무기를 만들려는 잠재적 시도를 차단하기 위한 결정이었다.
Anthropic은 더 강력한 사이버 안전장치를 마련하기 위해 Mythos급 모델의 일반 출시도 연기했다. 목록에 포함된 다른 항목으로는 정부가 모델 출시를 차단할 권한을 가져야 한다는 공개적 옹호, 중국에 대한 칩 및 칩 제조 장비 수출 통제에 대한 지속적인 지지가 있다.
두 AI 업계 인사 간의 이번 논쟁은 AI 안전과 정렬 문제를 둘러싼 논의가 계속 격화되는 가운데 벌어졌다. 고도화된 AI가 언젠가 인간의 통제를 넘어설 수 있다는 우려도 커지고 있다.
Amodei는 "공정하게 말하면, AI에 의한 가속이 안전이 따라가기 어려울 정도로 빨라졌을 때 어떻게 해야 하는지에 대해서는 중요한 질문이 있으며, 우리도 그 문제를 고민하고 있습니다"라고 덧붙였다. 이어 "우리는 그 지점에 가까워지고 있으며, 이것이 '속도 조절(pacing)'에 대해 우리가 고민하는 이유 중 하나입니다"라고 말했다.