AI 소프트웨어 기업 Palantir Technologies가 엣지 인프라 기업 Armada와 협력해 기업과 정부가 전적으로 소유하고 통제하는 컴퓨팅·데이터·물리적 인프라에서 공개 가중치 모델을 실행하고 조정할 수 있도록 지원한다.
목요일 발표된 이번 협력은 미국과 동맹국에서 제조된 인프라를 기반으로 주권형 AI를 제공하는 것을 목표로 하며, Armada는 Palantir의 첫 번째 인증 모듈형 데이터센터 파트너가 된다.
이번 파트너십은 Nvidia와 공동 개발한 Palantir Sovereign AI Operating System Reference Architecture를 고객이 물리적으로 소유한 컴퓨팅 인프라에서 호스팅할 수 있도록 확장한다. 양사는 성명에서 이 솔루션이 AIP, Ontology, Foundry, Apollo를 기반으로 구축된 Palantir의 Sovereign AI Operating System과 Armada의 인프라 계층을 결합한다고 밝혔다. 여기에는 모듈형 데이터센터, 배포 환경을 고객의 통제 아래 두는 Armada Platform, 그리고 배포 환경을 분산 시스템으로 연결하는 Sovereign AI Grid가 포함된다.성명.
Armada는 자사 클라우드를 포함한 외부 클라우드에 의존하지 않고 플랫폼을 운영할 수 있으며, 필요한 경우 완전한 에어갭 환경에서도 실행할 수 있다고 밝혔다.
"Palantir는 정부와 기업이 가장 중대한 의사결정에 활용하는 소프트웨어를 만듭니다. Armada는 그 아래를 받치는 인프라 계층을 제공합니다." Armada의 공동 창업자 겸 CEO인 Dan Wright는 말했다. "양사는 전력망 연결, 전력망 비연결 또는 완전한 에어갭 환경에서 주권형 AI를 수년이 아니라 수개월 만에 더 빠르게 구축하고, 더 높은 주권성과 회복탄력성을 갖추도록 합니다."
주권형 AI 수요 증가
양사에 따르면 주권형 AI 수요가 증가하고 있다. 조직들이 점점 더 자신이 통제할 수 없는 외부 호스팅 모델에 대한 의존도를 낮추려 하기 때문이다. 양사는 Palantir 고객들 역시 새로운 시설이 건설될 때까지 수년을 기다리는 대신 전력이 이미 공급되는 장소에서 수개월 안에 가동할 수 있는 AI 용량을 원한다고 밝혔다.
"주권은 빌려 쓰는 것이 아닙니다. 모델의 가중치와 데이터, 그리고 해당 모델이 실행되는 하드웨어를 소유하고, 그 하드웨어가 어디에서 제작됐는지 아는 것이 주권입니다." Palantir의 공동 창업자 겸 CEO인 Alex Karp는 말했다. "우리의 ontology는 기관이 데이터와 모델, 모델 미세 조정에 사용하는 입력값을 통제할 수 있도록 합니다. Armada는 기관이 해당 모델을 운영하는 인프라를 통제할 수 있도록 합니다."
지난달 Karp는 프런티어 AI 연구소를 국유화해야 할 수도 있다고 말했다. 기술이 지닌 "무한한 위험"에 따른 잠재적 책임 때문이다.