Luxor EnergyとBentausによると、AI推論GPUは、テキサス州の電力系統に関連する出力抑制信号に応じて、通常の約25%まで消費電力を0.5秒未満で削減した。

The Latentと共有した声明で説明されたこの企業報告のテストは、電力を大量消費する業界が成長を続ける中、AIインフラが電力需要に合わせてより柔軟に稼働できる可能性を示している。

このテストでは、Luxor EnergyのQualified Scheduling Entityが生成した信号と、Bentausの電力オーケストレーションソフトウェア「Ziani」を使用した。両社によると、このソフトウェアは500ミリ秒未満で処理を完了した。ソフトウェアが消費電力を段階的に引き下げる間、GPUの推論ワークロードは中断されなかった。これは、ワークロードがチェックポイントを作成し、一時停止して、再開できたためだという。両社はThe Latentと共有した声明で説明した。

「勝者となるのは、電力系統の安定化装置として機能するデータセンターだ」

ERCOTの4CP制度は、送電コストの配分を決定する際に、6月から9月までの夏季における需要のピーク時間帯を利用する。そのため、大規模な電力利用者は、こうしたピーク時間帯に消費量を削減することで送電料金の負担を軽減できる可能性があり、データセンター運営者がAIワークロードを電力系統の状況により敏感に反応させる動機となり得る。ERCOTやその他の系統運用者も、大規模な電力利用者に消費電力の削減や調整を促す金銭的インセンティブを提供するプログラムを実施している。

Luxor EnergyとBentausは現在、この技術を追加の液冷アクセラレーターシステムや次世代GPUプラットフォームへ拡張するとともに、ラック規模のアーキテクチャに向けた開発を進めている。両社はまた、推論やトークン生成のワークロードを実行するクラスターをエネルギープログラムに参加させた場合の収益性への影響を調査しており、ERCOTのEmergency Response Serviceを含む追加のプログラムへの参加を目指している。

LuxorのCOOであるEthan Vera氏は、「市場では2つのトレンドが収束している。AIデータセンターが総電力に占める割合を急速に拡大させている一方で、業界そのものも成熟しつつある」と述べた。「そうした未来において勝者となるのは、電力系統の安定化装置として機能し、エネルギープログラムを通じてその対価を得るデータセンターだ」