Uma GPU de inferência de IA reduziu seu consumo de energia para cerca de 25% dos níveis normais em menos de meio segundo em resposta a um sinal de redução de carga relacionado à rede elétrica do Texas, segundo a Luxor Energy e a Bentaus.
O teste demonstra uma aplicação inicial de como a infraestrutura de IA poderia operar com mais flexibilidade em função da demanda por eletricidade, enquanto o setor, que consome muita energia, continua crescendo.
O teste usou sinais gerados pela Qualified Scheduling Entity da Luxor Energy e pelo software de orquestração de energia Ziani, da Bentaus, que, segundo as empresas, concluiu o processo em menos de 500 milissegundos. A carga de trabalho de inferência da GPU continuou sem interrupções porque podia criar um checkpoint, pausar e retomar enquanto o software reduzia gradualmente o consumo de energia, explicaram as empresas em um comunicado compartilhado com o The Latent.
"Os vencedores serão os data centers que atuarem como estabilizadores da rede elétrica"
A estrutura 4CP da ERCOT usa intervalos de demanda de pico durante os meses de verão, de junho a setembro, para ajudar a determinar a alocação dos custos de transmissão. Grandes consumidores de eletricidade podem, portanto, reduzir sua exposição às tarifas de transmissão diminuindo o consumo durante esses intervalos de pico, o que pode incentivar os operadores de data centers a tornar as cargas de trabalho de IA mais responsivas às condições da rede elétrica. A ERCOT e outros operadores de rede também oferecem programas que incentivam financeiramente grandes consumidores de eletricidade a reduzir ou ajustar seu consumo de energia.
A Luxor Energy e a Bentaus disseram que agora estão estendendo a tecnologia a sistemas adicionais de aceleradores com refrigeração líquida e plataformas de GPU de próxima geração, enquanto avançam rumo a arquiteturas em escala de rack. As empresas também estão pesquisando o impacto sobre a rentabilidade da inclusão, em programas de energia, de clusters que executam cargas de trabalho de inferência e geração de tokens, e planejam buscar a participação em programas adicionais da ERCOT, incluindo seu Emergency Response Service.
"Duas tendências estão convergindo no mercado: os data centers de IA estão consumindo uma parcela cada vez maior da energia total, enquanto o próprio setor está amadurecendo", disse Ethan Vera, COO da Luxor. "Nesse futuro, os vencedores serão os data centers que atuarem como estabilizadores da rede elétrica e forem remunerados por isso por meio de programas de energia."