전력 제약에 직면한 데이터센터에서 AI GPU, 텍사스 전력망 신호에 1초 미만으로 응답 입증

Luxor Energy와 Bentaus에 따르면 AI 추론 GPU는 텍사스 전력망 관련 출력 감축 신호에 대응해 0.5초 이내에 전력 소비량을 정상 수준의 약 25%로 줄였다.

The Latent와 공유한 성명에서 설명된 이번 테스트는 전력 소비가 많은 산업이 계속 성장하는 가운데 AI 인프라가 전력 수요에 맞춰 더욱 유연하게 운영될 수 있음을 보여준다.

이번 테스트에는 Luxor Energy의 Qualified Scheduling Entity가 생성한 신호와 Bentaus의 Ziani 전력 오케스트레이션 소프트웨어가 사용됐으며, 양사는 이 과정이 500밀리초 이내에 완료됐다고 밝혔다. 소프트웨어가 전력 소비를 단계적으로 낮추는 동안 GPU의 추론 작업은 중단 없이 계속됐다. GPU가 체크포인트를 생성하고 일시 중지한 뒤 재개할 수 있었기 때문이라고 양사는 The Latent와 공유한 성명에서 설명했다.

‘승자는 전력망 안정화 장치로 기능하는 데이터센터가 될 것’

ERCOT의 4CP 체계는 6월부터 9월까지 여름철의 최대 수요 구간을 활용해 송전 비용 배분을 결정하는 데 도움을 준다. 따라서 대규모 전력 사용자는 이러한 최대 수요 구간에 소비를 줄여 송전 요금 부담을 낮출 수 있으며, 이에 따라 데이터센터 운영자가 AI 작업을 전력망 상황에 더욱 민감하게 반응하도록 만들 유인이 생길 수 있다. ERCOT를 비롯한 전력망 운영자들은 대규모 전력 사용자가 전력 소비를 줄이거나 조정하도록 재정적 인센티브를 제공하는 프로그램도 운영한다.

Luxor Energy와 Bentaus는 현재 이 기술을 추가적인 액체 냉각 가속기 시스템과 차세대 GPU 플랫폼으로 확장하는 한편, 랙 단위 아키텍처 개발을 추진하고 있다고 밝혔다. 또한 양사는 추론 및 토큰 생성 작업을 실행하는 클러스터를 에너지 프로그램에 등록할 경우 수익성에 미치는 영향을 연구하고 있으며, ERCOT의 Emergency Response Service를 포함한 추가 프로그램에도 참여할 계획이다.

Luxor의 COO Ethan Vera는 “시장에서는 두 가지 추세가 수렴하고 있습니다. AI 데이터센터가 전체 전력의 점점 더 큰 비중을 소비하는 동시에 업계 자체도 성숙해지고 있습니다”라며 “그 미래에는 전력망 안정화 장치로 기능하고 에너지 프로그램을 통해 그 대가를 받는 데이터센터가 승자가 될 것입니다”라고 말했다.