Luxor Energy와 Bentaus에 따르면, 한 AI 추론 GPU가 텍사스 전력망 관련 출력 제한 신호에 대응해 0.5초 이내에 전력 소비량을 정상 수준의 약 25%로 줄였다.
이는 전력 소비가 큰 AI 산업이 계속 성장하는 가운데, AI 인프라가 전력 수요에 맞춰 더욱 유연하게 운영될 수 있는지를 보여주는 초기 테스트다.
이번 테스트에는 Luxor Energy의 적격 스케줄링 엔터티(Qualified Scheduling Entity)가 생성한 신호와 Bentaus의 Ziani 전력 오케스트레이션 소프트웨어가 사용됐으며, 양사는 이 과정이 500밀리초 이내에 완료됐다고 밝혔다. 양사가 The Latent에 공유한 성명에 따르면, 소프트웨어가 전력 소비를 단계적으로 낮추는 동안 GPU가 체크포인트를 생성하고 일시 중지한 뒤 재개할 수 있었기 때문에 GPU의 추론 작업은 중단 없이 계속됐다.
'승자는 전력망 안정화 장치로 기능하는 데이터센터가 될 것'
ERCOT의 4CP 프레임워크는 6월부터 9월까지 여름철의 최대 수요 구간을 활용해 송전 비용 배분을 결정하는 데 도움을 준다. 따라서 대규모 전력 사용자는 해당 최대 수요 구간에 소비량을 줄여 송전 요금 부담을 낮출 수 있으며, 이는 데이터센터 운영자가 AI 워크로드를 전력망 상황에 더욱 민감하게 대응하도록 만들 유인이 될 수 있다. ERCOT를 비롯한 다른 전력망 운영자들도 대규모 전력 사용자가 전력 소비를 줄이거나 조정하도록 재정적으로 유도하는 프로그램을 운영하고 있다.
Luxor Energy와 Bentaus는 현재 이 기술을 추가 액체 냉각 가속기 시스템과 차세대 GPU 플랫폼으로 확대하는 한편, 랙 단위 아키텍처를 개발하고 있다고 밝혔다. 양사는 추론 및 토큰 생성 워크로드를 실행하는 클러스터를 에너지 프로그램에 등록할 경우 수익성에 미치는 영향을 연구하고 있으며, ERCOT의 Emergency Response Service를 포함한 추가 ERCOT 프로그램 참여도 추진할 계획이다.
Luxor의 COO Ethan Vera는 "시장에서는 두 가지 추세가 수렴하고 있습니다. AI 데이터센터가 전체 전력에서 차지하는 비중을 빠르게 늘려가고 있는 동시에 업계 자체도 성숙해지고 있습니다"라고 말했다. 이어 "그 미래에는 전력망 안정화 장치로 기능하고 에너지 프로그램을 통해 그 대가를 받는 데이터센터가 승자가 될 것입니다"라고 덧붙였다.
