Uma GPU de inferência de IA reduziu seu consumo de energia para cerca de 25% dos níveis normais em menos de meio segundo em resposta a um sinal de redução de carga relacionado à rede elétrica do Texas, segundo a Luxor Energy e a Bentaus.
O teste divulgado pelas empresas, descrito em um comunicado compartilhado com o The Latent, ilustra como a infraestrutura de IA poderia operar de forma mais flexível em relação à demanda de eletricidade, enquanto o setor, que consome muita energia, continua crescendo.
O teste utilizou sinais gerados pela Entidade de Programação Qualificada da Luxor Energy e pelo software de orquestração de energia Ziani, da Bentaus, que, segundo as empresas, concluiu o processo em menos de 500 milissegundos. A carga de trabalho de inferência da GPU continuou sem interrupções porque podia criar um checkpoint, pausar e retomar enquanto o software reduzia gradualmente o consumo de energia, explicaram as empresas em um comunicado compartilhado com o The Latent.
"Os vencedores serão os data centers que atuarem como estabilizadores da rede elétrica"
A estrutura 4CP da ERCOT utiliza intervalos de demanda de pico durante os meses de verão, de junho a setembro, para ajudar a determinar a alocação dos custos de transmissão. Grandes consumidores de eletricidade podem, portanto, reduzir sua exposição às tarifas de transmissão diminuindo o consumo durante esses intervalos de pico, o que pode dar aos operadores de data centers um incentivo para tornar as cargas de trabalho de IA mais responsivas às condições da rede elétrica. A ERCOT e outros operadores de rede também oferecem programas que incentivam financeiramente grandes consumidores de eletricidade a reduzir ou ajustar seu consumo de energia.
A Luxor Energy e a Bentaus afirmaram que agora estão estendendo a tecnologia a sistemas adicionais de aceleradores com refrigeração líquida e plataformas de GPU de próxima geração, enquanto avançam em direção a arquiteturas em escala de rack. As empresas também estão pesquisando o impacto na rentabilidade da inscrição de clusters que executam cargas de trabalho de inferência e geração de tokens em programas de energia e planejam buscar participação em programas adicionais da ERCOT, incluindo seu Emergency Response Service.
"Duas tendências estão convergindo no mercado: os data centers de IA estão consumindo uma parcela cada vez maior da energia total, enquanto o próprio setor está amadurecendo", afirmou o diretor de operações da Luxor, Ethan Vera. "Nesse futuro, os vencedores serão os data centers que atuarem como estabilizadores da rede elétrica e forem remunerados por isso por meio de programas de energia."