Selon Luxor Energy et Bentaus, un GPU d’inférence d’IA a réduit sa consommation électrique à environ 25 % de son niveau normal en moins d’une demi-seconde, en réponse à un signal de réduction de consommation lié au réseau texan.

Le test, rapporté par les entreprises et décrit dans un communiqué transmis à The Latent, montre comment les infrastructures d’IA pourraient fonctionner avec davantage de flexibilité en fonction de la demande d’électricité, alors que cette industrie énergivore poursuit sa croissance.

Le test a utilisé des signaux générés par l’entité de planification qualifiée de Luxor Energy et le logiciel d’orchestration de l’alimentation Ziani de Bentaus, qui, selon les entreprises, ont achevé le processus en moins de 500 millisecondes. La charge de travail d’inférence du GPU s’est poursuivie sans interruption, car elle pouvait créer un point de contrôle, se mettre en pause, puis reprendre pendant que le logiciel réduisait progressivement la consommation électrique, ont-elles expliqué dans un communiqué transmis à The Latent.

« Les gagnants seront les centres de données qui jouent le rôle de stabilisateurs du réseau »

Le cadre 4CP d’ERCOT utilise les périodes de pointe de la demande pendant les mois d’été, de juin à septembre, pour contribuer à déterminer la répartition des coûts de transport. Les grands consommateurs d’électricité peuvent donc réduire leur exposition aux frais de transport en diminuant leur consommation durant ces périodes de pointe, ce qui pourrait inciter les opérateurs de centres de données à rendre les charges de travail d’IA plus réactives aux conditions du réseau. ERCOT et d’autres opérateurs de réseau proposent également des programmes qui incitent financièrement les grands consommateurs d’électricité à réduire ou à ajuster leur consommation électrique.

Luxor Energy et Bentaus ont déclaré qu’ils étendaient désormais cette technologie à d’autres systèmes d’accélérateurs refroidis par liquide et à des plateformes GPU de nouvelle génération, tout en développant des architectures à l’échelle du rack. Les entreprises étudient également l’impact sur la rentabilité de l’inscription de grappes exécutant des charges de travail d’inférence et de génération de tokens à des programmes énergétiques, et prévoient de participer à d’autres programmes d’ERCOT, notamment son Emergency Response Service.

« Deux tendances convergent sur le marché : les centres de données d’IA consomment une part rapidement croissante de l’électricité totale, tandis que le secteur lui-même arrive à maturité », a déclaré Ethan Vera, directeur des opérations de Luxor. « Dans cet avenir, les gagnants seront les centres de données qui jouent le rôle de stabilisateurs du réseau et qui sont rémunérés pour cela par le biais de programmes énergétiques. »