Una GPU de inferencia de IA redujo su consumo eléctrico a aproximadamente el 25 % de los niveles normales en menos de medio segundo en respuesta a una señal de reducción del consumo relacionada con la red eléctrica de Texas, según Luxor Energy y Bentaus.
La prueba, comunicada por las empresas y descrita en un comunicado compartido con The Latent, ilustra cómo la infraestructura de IA podría operar con mayor flexibilidad en función de la demanda eléctrica mientras esta industria, que consume grandes cantidades de energía, sigue creciendo.
La prueba utilizó señales generadas por la Qualified Scheduling Entity de Luxor Energy y el software de orquestación energética Ziani de Bentaus, que, según las empresas, completó el proceso en menos de 500 milisegundos. La carga de trabajo de inferencia de la GPU continuó sin interrupciones porque podía crear puntos de control, pausarse y reanudarse mientras el software reducía gradualmente el consumo eléctrico, explicaron en un comunicado compartido con The Latent.
«Los ganadores serán los centros de datos que actúen como estabilizadores de la red eléctrica»
El marco 4CP de ERCOT utiliza intervalos de demanda máxima durante los meses de verano, de junio a septiembre, para ayudar a determinar la asignación de los costos de transmisión. Por lo tanto, los grandes consumidores de electricidad pueden reducir su exposición a los cargos de transmisión disminuyendo el consumo durante esos intervalos máximos, lo que potencialmente ofrece a los operadores de centros de datos un incentivo para hacer que las cargas de trabajo de IA respondan mejor a las condiciones de la red eléctrica. ERCOT y otros operadores de redes también ofrecen programas que incentivan económicamente a los grandes consumidores de electricidad a reducir o ajustar su consumo eléctrico.
Luxor Energy y Bentaus afirmaron que ahora están ampliando la tecnología a sistemas aceleradores adicionales con refrigeración líquida y a plataformas de GPU de próxima generación, mientras avanzan hacia arquitecturas a escala de rack. Las empresas también están investigando el impacto en la rentabilidad de inscribir en programas energéticos clústeres que ejecutan cargas de trabajo de inferencia y generación de tokens, y planean solicitar su participación en programas adicionales de ERCOT, incluido su Emergency Response Service.
«Dos tendencias están convergiendo en el mercado: los centros de datos de IA consumen una proporción cada vez mayor de la energía total, mientras que la propia industria está madurando», afirmó Ethan Vera, director de operaciones de Luxor. «En ese futuro, los ganadores serán los centros de datos que actúen como estabilizadores de la red eléctrica y reciban una remuneración por ello a través de programas energéticos».