Meta CEO Mark Zuckerberg는 화요일 늦게 인공지능 개발 속도 논쟁에 뛰어든 듯한 발언을 하며, 회사가 경쟁사에 같은 조치를 요구하지 않은 채 개인용 AI assistant 제품 Muse의 출시를 수개월 연기했다고 밝혔다.
주말에 Anthropic CEO Dario Amodei는 AI 개발 속도를 늦추자고 제안했다 안전성과 정렬 문제를 이유로 들었다. OpenAI의 Sam Altman, Google DeepMind의 Demis Hassabis, SpaceXAI의 Elon Musk도 이러한 방향에 지지를 표했다.
"Meta는 안전과 보안에 집중하기 위해 Muse 출시를 수개월 연기했습니다," Zuckerberg는 X에 게시했다. "우리가 먼저 이렇게 하기 전에 다른 모든 사람에게도 그렇게 하라고 요구하지 않았습니다. 사람들과 우리에게 분명히 옳은 일이었기 때문에 일상적인 업무의 일환으로 그렇게 했을 뿐입니다."
Meta의 수장은 모든 AI 연구소가 안전한 속도로 모델을 훈련할 책임이 있으며, 이를 보장하기 위해 자체적으로 조치를 취할 수 있다고 말했다. 또한 독립적인 평가자와 자문위원을 참여시키는 것이 업계의 모범 사례라고 덧붙였다.
자율 규제 유인
사람들은 자신과 어긋나고 지시에 따르지 않는 agent를 원하지 않기 때문에, 연구소들은 이미 모델을 더욱 잘 정렬되도록 만들 강력한 유인을 갖고 있다고 Meta CEO는 말했다. 또한 모델이 피해를 초래할 경우 연구소들은 상당한 법적 책임에 직면하므로, 이를 예방할 강력한 유인도 있다고 덧붙였다.
"정렬에 집중하지 않는 연구소는 뒤처질 것입니다,"라고 그는 덧붙였다.
Amodei의 앞선 발언에 대해 전 White House AI czar David Sacks는 최첨단 AI 연구소가 위험하다고 판단한다면 개발 속도를 늦춰야 한다고 말했다. 그러나 안전 우려를 시장 지배력을 굳힐 수 있는 규제를 정당화하는 데 이용하기보다는 자발적으로 속도를 늦춰야 한다고 주장했다.
"컴퓨팅 자원의 압도적 다수를 재귀적 자기 개선을 향한 경쟁이 아니라 사람들에게 서비스를 제공하는 데 투입하는 것은 이 기술을 안전하게 개발할 수 있도록 하는 가장 좋은 방법 중 하나입니다,"라고 Zuckerberg는 말했다. "Meta는 이러한 약속을 했으며 다른 연구소들도 그렇게 할 수 있습니다."