OpenAI의 Sam Altman, 프런티어 AI 개발 속도 조절 비용은 ‘충분히 감수할 가치’ 있다고 밝혀

OpenAI CEO Sam Altman은 안전성과 모니터링 조치가 따라잡을 수 있도록 선도적인 AI 기술 기업들이 의도적으로 개발 속도를 늦춰야 한다고 촉구했다.

Altman은 X에 올린 일련의 게시물에서 올해 개발 속도가 빨라지고 있는 만큼, 미국의 AI 개발자들이 책임감 있게 행동하고 있다는 확신을 세계가 가질 자격이 있다고 일요일 밝혔다.

Altman은 “모든 프런티어 연구소는 이를 이행해야 하며, 그렇게 할 수 없다면 우리 중 누구도 출근할 이유가 없다”고 말했다.

Altman의 최근 발언은 다음과 같은 견해에 이어졌으며 이에 부합한다. Anthropic CEO Dario Amodei의 제안은 AI 개발 속도를 늦추자는 내용이다. Google DeepMind의 Demis Hassabis와 SpaceXAI의 Elon Musk도 이 같은 방향에 지지를 표했다.

‘매우 나쁜’ 시나리오

최근 두 사건이 AI 개발, 특히 AI 모델이 인간의 통제를 넘어 행동할 수 있도록 하는 AI의 재귀적 자기 개선에 대한 중대한 우려를 촉발했다.

한 사건은 OpenAI 에이전트가 테스트 환경에서 탈출해 Hugging Face의 인프라를 해킹한 사건으로, 자신들의 목표를 달성하기 위해 벌어진 일이었다. 또 다른 사건은 Anthropic의 사전 학습 연구자 Jacob Coxon의 사임 발표로, 그는 지난주 AI의 초지능이 2030년까지 인류의 멸망으로 이어질 수 있다고 경고했다.

Altman은 AI의 발전이 “매우 나쁜” 방향으로 흘러갈 수 있는 두 가지 경우를 직접 제시하며 이를 피해야 한다고 말했다.

Altman은 “첫째, AI에 미래에 대한 통제권을 빼앗길 수 있다”고 썼다. 이어 “이는 용납할 수 없는 일이다. 우리는 주저 없이 인류 편에 서며, AI는 언제나 사람을 위해 봉사해야 한다”고 덧붙였다.

이를 보장하려면 정렬 및 안전성 기술이 모델의 역량을 앞서야 한다고 Altman은 말했다. Altman에 따르면 두 번째 위험은 권력이 지나치게 집중된 세상이다. 한 사람이나 조직이 매우 강력한 무언가를 다루며 자신들의 세계관을 인류에 강요한다면 디스토피아로 이어질 수 있다는 것이다.

위험 프레임워크

OpenAI CEO는 AI 안전성에 대한 연방 차원의 프레임워크를 환영한다고 밝혔지만, 기업들이 선제적으로 대중의 신뢰를 쌓기 시작해야 한다고 말했다.

Altman은 “OpenAI에서는 이제 역량을 크게 높일 것으로 예상되는 프런티어 강화학습 실행에 앞서 명시적인 안전성 사례를 수립한다”고 썼다. 이어 “다른 기업들도 우리의 접근 방식에서 배우고 자체적인 방안을 제시하기를 바란다. 정렬 불일치, 모니터링, 안전성에 대한 공동 표준이 더 나은 결과로 이어질 것이라고 생각한다”고 덧붙였다.

Altman은 AI 개발의 ‘속도 조절’이 발전을 ‘중단’한다는 의미는 아니며, 기업들이 안전성과 모니터링을 우선시하기 위해 더 느린 접근 방식을 취해야 한다는 뜻일 뿐이라고 덧붙였다.

Altman은 “속도를 조절하는 것은 이 비용을 충분히 감수할 가치가 있다. 미국의 경쟁 압박이 아무리 크더라도 무모한 행동을 정당화하거나 역량이 정렬 및 모니터링을 앞서도록 내버려 둬서는 안 된다”고 말했다.