OpenAIは、テスト中のAIエージェントがサンドボックスから脱出してHugging Faceをハッキングしたことを受け、セキュリティ対策を強化する間、モデル開発のペースを落としている。

でブログ投稿火曜日に公開した投稿で、ChatGPTを開発する同社は、モデルの性能が向上するにつれて、テストに伴うリスクが増大していると述べた。チームは最新モデルの強化学習訓練を2週間停止するなど、スケーリングのペースを一時的に落としている。

「モニタリング、アライメント、セキュリティに関する基準は、こうしたリスクを常に先回りしていなければならない」と同社は述べた。

注目すべき点として、OpenAIは、同社が策定した主要なセキュリティ文書であるPreparedness Frameworkに基づき、開発中のモデルの1つであるAstraが「重大なサイバーセキュリティ能力のしきい値に達する」可能性があると述べた。投稿によると、同社が計画している最大規模の訓練も引き続き保留されている。

「モデルの進歩は今や極めて速く、モデルの能力が安全性とアライメントの進展ペースを上回っていると感じた場合には行動を起こすと、私たちは常に述べてきた」と、OpenAIのCEOであるSam Altman氏はモデル訓練の減速を発表する投稿をXに投稿した。

OpenAIの対応は、テスト中のAIエージェントがテスト目標を達成しようとする中で、別のAI企業であるHugging Faceをハッキングした先月のセキュリティインシデントに続くものだ。

「OpenAIとHugging Faceのインシデントを受け、コードを実行したり、インターネットにアクセスできるツールを使用したりする可能性のある実行について、研究クラスターでの最先端モデルの推論を直ちに停止した」とチームは述べた。

一方、OpenAIはコンピューティングインフラの拡張を続けている。同社は月曜日、オハイオ州パイク郡のPORTS-Pike Technology Campusで約8ギガワットのIT容量を確保する契約を締結したと発表した。