최근 Google DeepMind에서 사임한 한 연구원이 AI에는 “우리 모두를 죽일” 가능성이 있다고 경고했다.
월요일 게시물에서 DeepMind의 연구 엔지니어로 일했던 Bilal Chughtai는 AI 개발을 직접 목격했다며, “이 기술의 기본적인 발전 궤적에 극도로 우려하고 있다”고 썼다.
Google에서 AGI 안전성 및 정렬 연구를 수행했던 Chughtai는 “AI가 우리 모두를 죽일 가능성이 있으며, 이런 결과를 피할 시간이 얼마 남지 않았을 수 있다고 진지하게 믿는다”고 말했다.
전 Google 직원은 지난 7월 악성 AI 에이전트가 OpenAI의 테스트 환경에서 탈출해 Hugging Face를 공격했다는 사실이 우려스럽다고 말했다.
그는 “우리가 원하는 것을 진정으로 원하도록 AI 시스템을 훈련하는 방법에 대한 현재의 이해는 극도로 초보적인 수준”이라며 “더 큰 문제는 제때 정렬 문제를 해결할 궤도에 올라 있지 않다는 것이다. 프런티어 AI의 역량은 AI 정렬에 대한 우리의 이해보다 훨씬 빠르게 향상되고 있다”고 썼다.
그러나 Chughtai는 AI 기업들이 “광적인 경쟁”을 피하기 위해 개발 속도를 늦춘다면 AI를 안전하게 운용하는 것이 가능하다고 여전히 낙관했다.
그는 “극단적인 피해가 현실화되기 전에 새롭게 부상하는 위험에 대응할 수 있도록, 사회가 감당할 수 있는 속도로 AI 개발 속도를 조절해야 한다”고 말했다.
The Latent는 논평을 듣기 위해 Google에 연락했다.
전 DeepMind 엔지니어의 이 같은 발언은 Anthropic CEO Dario Amodei가 지난 주말 개발 속도를 늦출 것을 촉구한 뒤에 나왔다. 그는 점점 커지는 안전 위험을 이유로 프런티어 AI 개발 속도를 늦춰야 한다고 주장했다. OpenAI의 Sam Altman, Google DeepMind의 Demis Hassabis, 그리고 xAI 창업자 Elon Musk도 비슷한 우려를 표하거나 이 아이디어를 지지했다.
지난주에는 Anthropic의 전 연구원이자 OpenAI에서도 일했던 Jacob Coxon이 AI가 2030년까지 인류를 멸망시킬 수 있다고 경고하며, 두 AI 연구소가 인류를 위험에 빠뜨리면서 초지능 모델을 개발하고 있다고 비난했다.
이 연구원은 “AI를 개발하는 사람들은 AI가 이번 10년이 끝나기 전에 우리 모두를 죽일 수 있다고 진지하게 믿는다”며 “이는 마케팅 수법이 아니다. 오히려 많은 임원과 수석 연구원은 언론에서 합리적으로 들리도록 표현을 완곡하게 만들겠지만, 나는 같은 사람들이 사적으로 두려움을 표현하는 것을 듣고 있다”고 말했다.