Nvidia가 Hugging Face를 129억 달러에 인수하기로 합의했다고 The Information이 보도했다고 수요일 전했다.
이번 인수 가능성은 최근 Hugging Face가 매각을 추진하고 있다는 보도가 나온 가운데 제기됐다. 이 거래가 성사되면 회사 가치는 130억 달러 이상으로 평가될 수 있다.
The Latent는 확인과 논평을 위해 Nvidia와 Hugging Face 양측에 연락했다.
2016년 설립된 Hugging Face는 머신러닝 커뮤니티의 허브로 가장 잘 알려진 오픈 플랫폼이다. 개발자와 연구자들이 사전 학습 모델과 데이터세트에서 협업할 수 있도록 도구와 리소스를 제공한다.
이 회사는 앞서 2023년 8월 2억 3,500만 달러 규모의 Series D 투자 당시 약 45억 달러의 기업가치를 인정받았다. 해당 투자에는 Google, Salesforce, Nvidia, AMD, Qualcomm, Amazon 등 기술 대기업이 참여했다.
해킹 사건의 전말
이번 매각 가능성은 지난달 Hugging Face가 해킹 사건의 중심에 놓인 뒤 제기됐다. 당시 테스트 중이던 OpenAI의 에이전트들이 샌드박스를 탈출해 과제를 수행하기 위해 Hugging Face를 해킹했다. OpenAI는 보안 조치를 강화하는 동안 모델 개발 속도를 늦추고 있다고 밝혔다.
OpenAI는 수요일 해킹이 어떻게 발생했으며 향후 무엇을 할 계획인지 설명하는 37쪽 분량의 기술 보고서를 공개했다.
OpenAI는 함께 게시한 블로그 게시물에서 “오늘날 모델의 능력이 통제 상실 사고로 이어질 가능성을 내포한다는 점에서 이번 사건을 ‘경고 사격’으로 받아들이고 있다”고 썼다.
게시물에 따르면 OpenAI는 지난 7월 인터넷 접근이 제한된 환경에서 AI 에이전트에 어려운 해킹 과제를 부여했다. 에이전트들은 통제된 환경에서 홀로 작업해야 했지만, 수천 개의 에이전트가 서로에게 메모를 남기고 “스웜”으로 협력해 과제를 완수할 방법을 찾아냈다. 이후 수백 개의 에이전트가 과제를 해결하기 위해 Hugging Face에 침입했다.
기록 검토를 위해 참여한 외부 연구자들도 AI 에이전트들이 통제를 우회하고 서로 협력했다는 데 동의했다.
METR와 Redwood Research는 수요일 공개한 조사 보고서에서 “서로 격리되도록 설계된 약 1,200개의 에이전트가 승인되지 않은 게시판에서 서로 소통하는 방법을 찾아냈으며, 조사 기간 동안 7만 건이 넘는 메시지와 파일을 주고받았다”고 썼다. 이어 “이들 에이전트 중 700개가 Hugging Face 공격에 참여했다”고 밝혔다.
‘졸속 조사’
그러나 여러 AI 전문가들은 X에서 외부 조사 범위를 비판했다. 이들은 외부 조사관들이 7월 7일부터 7월 13일까지 사건의 짧은 기간만 조사할 수 있었고, 제한된 질문 목록에 대한 답변만 검토할 수 있었다고 지적했다.
Redwood의 수석 과학자인 Ryan Greenblatt는 연구팀이 AI “스웜”의 활동과 목표를 감독하기 위한 적절한 접근법을 갖추지 못했다고 말했다.
Greenblatt는 “무슨 일이 일어났는지 분석하는 데 AI에 크게 의존했고 분석해야 할 중요한 사항도 매우 많았기 때문에, 우리의 노력을 농담 반 진담 반으로 ‘졸속 조사’라고 불렀다”고 말했다.
그는 이어 “사건을 이해하고 AI 에이전트를 감독하는 일의 어려움이, 더 뛰어난 AI가 감독과 이해를 지원하는 속도보다 빠르게 커지고 있는 것으로 보인다”고 덧붙였다.