OpenAI CEO 샘 알트먼은 수요일 유엔 안전보장이사회에서, 자사가 과거에도 AI 개발 속도를 늦춘 적이 있으며 시스템을 운영하는 인간의 통제 아래에 둘 수 없다면 다시 그렇게 할 것이라고 말했다.
"우리는 과거에 일방적으로 속도를 늦춘 적이 있습니다. 앞으로도 그렇게 할 것입니다." 알트먼은 말했다. "경쟁에서 기업을 앞서기 위해 성급한 결정을 내릴 이유는 없습니다."
그러나 그는 이러한 속도 조절이 정확히 언제, 어떻게 이뤄졌는지에 대해서는 구체적으로 설명하지 않았다.
알트먼은 AI가 미래 버전의 AI를 개발하는 데 더 큰 역할을 맡게 되면서 우려가 더욱 커졌다고 말했다. 발전 속도가 지나치게 빨라지면 이를 책임지는 사람들이 AI가 무엇을 하고 있는지, 문제가 발생했을 때 어떻게 개입해야 하는지를 파악하는 데 어려움을 겪을 수 있다.
"AI에게 미래에 대한 통제권을 빼앗길 수도 있습니다." 그는 경고했다.
알트먼은 가장 발전된 AI 시스템이 소수의 기업이나 국가에 지나치게 큰 영향력을 안겨줄 수 있다는 점도 또 다른 위험으로 꼽았다. 이를 막기 위해 그는 첨단 시스템을 테스트하고, 안전장치가 제대로 작동하는지 확인하며, 중대한 사고를 보고하는 데 사용할 수 있는 공동 기준을 마련하자고 촉구했다.
이날 회의에서 발언한 Anthropic CEO 다리오 아모데이도 비슷한 약속을 했다.
"우리가 출시하는 각각의 차세대 AI 기술이 실제로 안전하다는 점을 확실히 하기 위해 필요한 만큼 속도를 늦추겠습니다." 그는 말했다.
아모데이는 각국이 안전성 테스트를 위한 보편적 기준과 AI 사고, 특히 국가 안보 침해와 관련된 사고를 서로 알리는 방법에 대해 합의할 것도 촉구했다.
"어떤 지도자도, 어떤 기업도, 어떤 국가도 이 일을 혼자서 관리할 수 없습니다." 그는 말했다.