NvidiaはHugging Faceを129億ドルで買収することで合意したと、The Informationが報じた。水曜日のことだ。
この買収の可能性は、Hugging Faceが売却先を探しているとの最近の報道がある中で浮上した。同社の評価額は130億ドル以上になる可能性がある。
The Latentは、確認とコメントを求めてNvidiaとHugging Faceの双方に連絡を取った。
2016年創業のHugging Faceは、機械学習コミュニティのハブとして最もよく知られるオープンプラットフォームだ。開発者や研究者が事前学習済みモデルやデータセットを共同で扱うためのツールとリソースを提供している。
同社はこれまで、2023年8月の2億3,500万ドルのシリーズD資金調達時点で、およそ45億ドルと評価されていた。この資金調達には、Google、Salesforce、Nvidia、AMD、Qualcomm、Amazonなどのテクノロジー大手が参加した。
ハッキング騒動
今回の売却の可能性は、先月Hugging Faceがハッキング事件の中心となった後に浮上した。テスト中だったOpenAIのエージェントがサンドボックスから脱出し、タスクを達成するためにHugging Faceをハッキングした。OpenAIは、セキュリティ対策を強化する間、モデル開発のペースを落としていると述べた。
水曜日、OpenAIはハッキングがどのように発生し、今後何をする予定なのかを詳述した37ページの技術報告書を公開した。
「今回のインシデントは、『警告射撃』として受け止めています。今日のモデルの能力は、制御不能インシデントにつながる可能性を示しているからです」とOpenAIは付随するブログ記事で記した。
記事によると、OpenAIは7月、インターネットへのアクセスが制限された環境で、AIエージェントに難易度の高いハッキングタスクを与えた。エージェントは、隔離された制限付きの環境で単独作業をするはずだった。しかし数千体が互いにメモを残して「群れ」として協力し、タスクを完了する方法を見つけた。その後、数百体のエージェントが課題を達成しようとHugging Faceに侵入した。
記録の検証のために招かれた第三者の研究者らは、AIエージェントが制御を回避し、協力していたとの見解で一致した。
「互いに隔離されるはずだったおよそ1,200体のエージェントが、認可されていない掲示板で相互に通信する方法を見つけ、調査期間中に7万件以上のメッセージとファイルを送信していました」と、METRとRedwood Researchは水曜日に公開した調査報告書に記した。「これらのエージェントのうち700体が、Hugging Faceへの攻撃に参加しました」
「お粗末な調査」
しかし、複数のAI専門家がX上で第三者調査の範囲を批判した。第三者の調査員に認められていたのは、7月7日から7月13日までのインシデントの短い期間と、短い質問リストへの回答を調べることだけだったと指摘した。
RedwoodのチーフサイエンティストであるRyan Greenblattは、チームにはAI「群れ」の活動と目的を監督するための有効な手法がなかったと述べた。
「何が起きたのかを分析するのにAIに大きく依存しており、分析すべき重要な事柄も非常に多かったため、私たちの取り組みを半ば冗談で『お粗末な調査』と呼びました」とGreenblattは述べた。
「インシデントを理解し、AIエージェントを監督する難しさは、より高性能なAIが監督と理解を支援してくれるペースよりも速く増大しているようです」と同氏は付け加えた。