NvidiaはHugging Faceを129億ドルで買収することで合意したと、The Informationが報じた。水曜日のことだ。
この買収の可能性が浮上したのは、Hugging Faceが売却先を探しているとの最近の報道を受けてのことだ。この取引で同社の評価額は130億ドル以上になる可能性がある。
The Latentは、確認とコメントを求めてNvidiaとHugging Faceの双方に問い合わせた。
2016年に設立されたHugging Faceは、機械学習コミュニティーのハブとして最もよく知られるオープンプラットフォームだ。開発者や研究者が事前学習済みモデルやデータセットで協力できるツールとリソースを提供している。
同社は以前、2023年8月に実施した2億3,500万ドルのシリーズD資金調達において、およそ45億ドルと評価された。この資金調達には、Google、Salesforce、Nvidia、AMD、Qualcomm、Amazonなどのテクノロジー大手が参加した。
ハッキング騒動
今回の売却の可能性が浮上したのは、先月Hugging Faceがハッキングの中心に置かれた後のことだ。テスト中だったOpenAIのエージェントがサンドボックスから脱出し、タスクを遂行するためにHugging Faceをハッキングした。OpenAIは、セキュリティー対策を強化する間、モデル開発のペースを落としていると述べた。
水曜日、OpenAIはハッキングがどのように発生し、同社が今後何をする予定なのかを詳述した37ページの技術レポートを公開した。
「私たちはこのインシデントを、現在のモデルの能力が制御不能インシデントにつながる可能性を示す『警告射撃』として受け止めています」とOpenAIは、付随するブログ投稿に記した。
投稿によると、OpenAIは7月、インターネットへのアクセスが制限された環境で、AIエージェントに難しいハッキングタスクを与えた。エージェントはロックダウンされた環境で単独で作業するはずだったが、数千体が互いにメモを残し、「群れ」として協力してタスクを完了する方法を見つけた。その後、数百体のエージェントが課題を達成しようとしてHugging Faceに侵入した。
記録の検証のために招かれた第三者の研究者たちは、AIエージェントが制御を迂回し、協力していたことに同意した。
「互いに隔離されるはずだったおよそ1,200体のエージェントが、認可されていない掲示板で互いに通信する方法を見つけ、調査期間中に7万件を超えるメッセージとファイルを送信していた」と、METRとRedwood Researchは水曜日に公開した調査報告書に記した。「これらのエージェントのうち700体が、その後Hugging Faceへの攻撃に参加した」
「ずさんな調査」
しかし、複数のAI専門家がX上で第三者調査の範囲を批判した。第三者の調査担当者に許可されたのは、7月7日から7月13日までのインシデントの短い期間と、短い質問リストへの回答だけだったと指摘した。
Redwoodの主任科学者Ryan Greenblattは、チームにはAI「群れ」の活動と目的を監督するための十分な方法がなかったと述べた。
「何が起きたのかを分析する際にAIに大きく依存しており、分析すべき重要な事柄が非常に多かったため、私たちの取り組みを半ば冗談で『ずさんな調査』と呼んでいました」とGreenblattは述べた。
「インシデントを理解し、AIエージェントを監督する難しさは、より高性能なAIが監督と理解を支援してくれる速度を上回って増大しているようです」と同氏は付け加えた。