David Sacks는 인공지능이 인류를 멸망시킬 수 있다는 경고를 ‘종말론자들의 과장된 선동’이라고 일축하며, 지난주 확산된 Anthropic 연구원의 사임은 AI에 대한 정부의 통제를 강화하는 방안을 지지하도록 여론을 조성하기 위한 캠페인의 일부였다고 말했다.
Sacks는 금요일 All-In podcast에서 “이건 공작으로 보인다”고 말했다. “직원이 갑자기 ‘아, 그냥 Twitter에 사임서를 올려야겠다’고 생각해서 한 자발적인 행동이 아니다. 누군가 조직한 일이었다.”
논쟁의 중심에는 최근 Anthropic에서 사임한 Jacob Coxon이 있었다. 그는 이전에 OpenAI에서 근무했으며, 두 회사가 모두 “스스로 개선되는 초지능을 향해 곧장 경쟁하고 있다”며 “우리의 목숨을 걸고 도박하고 있다”고 경고했다.
이후 Anthropic의 정렬 과학 책임자인 Evan Hubinger는 Coxon의 발언을 재차 강조하며, 향후 10년 안에 AI가 모든 인간을 죽일 가능성이 10%보다 높다고 생각한다고 말했다.
도널드 트럼프 전 대통령의 AI·암호화폐 차르를 지낸 Sacks는 이들의 견해를 뒷받침할 증거가 없다고 주장했다.
Sacks는 “그가 말하는 건 전부 근거 없는 느낌일 뿐”이라며 “데이터를 보여달라. 보고서를 보여달라. 대중이 이미 알고 있던 것 이상의 유출 정보를 보여달라. 사실을 보여달라. 증거를 보여달라”고 말했다.
홍보용 쇼?
Sacks는 Coxon의 게시물을 AI 안전 단체들이 후속 확산한 것이, 대중을 겁줘 새로운 연방 AI 규제기관과 오픈소스 개발을 위축시킬 규제를 받아들이게 하려는 홍보용 쇼라는 더욱 강력한 증거라고도 말했다.
Sacks는 “이건 종말론자 심리전이며, 궁극적인 표적은 오픈소스”라고 말했다. 그는 모델을 중앙에서 계속 모니터링하고 이른바 “킬 스위치”를 갖추도록 요구하는 규정이 미국에서 오픈소스 AI의 종말을 의미할 것이라고 덧붙였다.
페이스북 전 임원인 Chamath Palihapitiya도 의견을 보태며, Anthropic이 기업공개(IPO)를 준비 중인 것으로 알려진 가운데 이러한 경고가 Anthropic을 곤란한 입장에 빠뜨렸다고 말했다.
Palihapitiya는 “그들은 선택해야 한다”고 말했다. Anthropic이 자사의 기술이 인류를 파괴할 실질적인 위험이 있다는 점을 인정한다면 투자자들에게 이를 공개해야 하며, 투자자들은 그 경우 “엄청난 할인”을 요구할 가능성이 높다. 반대로 회사가 경고를 일축하면 그에 따른 대중의 반발을 감당해야 한다.
한편 David Friedberg는 AI가 사이버 공격에 사용되거나 위험한 생물학 무기 제작을 돕는 데 활용될 수 있다는 점은 인정했지만, 핵심 AI 시스템에는 이미 대체로 충분한 인간의 감독과 중복 안전장치가 있어 통제 불능 상태로 치닫는 것을 막을 수 있다고 주장했다.
Friedberg는 “지금 우리는 AI 종말론이 히스테리로 치닫는 단계에 있다고 생각한다”고 말했다.