안전 우려가 커지는 가운데 OpenAI, 글로벌 AI 프레임워크에서 미국의 리더십 촉구

OpenAI는 안전 위험이 커지는 가운데 AI 기업들이 감당할 수 있는 수준을 넘어 앞서 나가고 있다는 우려도 커지고 있다며, 미국이 글로벌 인공지능 프레임워크 마련을 주도해야 한다고 밝혔다.

에서 블로그 게시물을 통해 샘 올트먼이 이끄는 이 회사는 국가 간 협력이 혁신을 계속 촉진하면서도 안전장치를 강화하는 데 도움이 될 수 있다고 밝혔다.

OpenAI는 월요일 "지금 주도하느냐에 따라 미국이 글로벌 AI 프레임워크를 형성할지, 아니면 주변에 분열되고 불균등하며 갈등으로 얼룩진 체제가 자리 잡는 것을 지켜보기만 할지가 결정될 것"이라고 밝혔다. "또한 첨단 AI가 미국과 동맹국들이 이미 구축한 네트워크를 강화할지 여부도 결정될 것이다. 주도하지 못하면 네트워크가 약화될 수 있다."

OpenAI와 Anthropic 같은 AI 기업의 개발 속도에 대한 우려는 일련의 AI 관련보안 사고가 잇따르면서 커졌다. 지난 7월에는 OpenAI의 에이전트 수백 개가 통제된 테스트 환경에서 탈출해 허깅페이스를 공격했다. Anthropic도 지난 7월 자사의 AI 모델 3개가 해킹 사건에 연루됐다고 밝혔다. 이후 Anthropic의 CEO 다리오 아모데이와 올트먼은 통제력 상실과 권력 집중에 대한 우려를 이유로 AI 개발 속도를 늦춰야 한다고 각각 촉구했다.

OpenAI는 국제 프레임워크가 "권력 집중을 피하는 데" 초점을 맞춰야 한다고 밝혔다. 미국은 정부의 AI 테스트 및 표준화 기관인 AI 표준·혁신 센터를 통해 기존 AI 안전 기관을 활용하고 최첨단 모델에 대한 표준을 마련할 수 있다. 또한 표준에는 자기개선형 AI의 발전을 검토하는 한편, 문제를 추적할 방법을 마련하고 보안 우려를 공유할 소통 채널을 구축하는 내용도 포함돼야 한다고 회사는 밝혔다.

OpenAI의 게시물은 도널드 트럼프 대통령이 AI를 비롯한 광범위한 현안을 논의하기 위해 시진핑 중국 국가주석과 만날 것으로 예상되는 시점을 불과 며칠 앞두고 나왔다. 트럼프는 우려를 일축하며 중국보다 앞서가는 데 초점을 맞춰야 한다고 말했다.

회사는 "이 분야에서 미국과 중국 간 대화는 긍정적인 조치가 될 것이며, 예정된 회담은 적절한 시기에 열리고 있다"고 밝혔다.