Claude 개발사 Anthropic이 지난해 상당한 손실을 기록했음에도 향후 수년간 클라우드와 컴퓨팅에 공격적으로 투자할 계획이라고 전해졌다.
Reuters는 Anthropic의 비공개 기업공개 계획서를 인용해 월요일 보도했다. 회사의 지난해 매출은 12배 증가해 약 46억 달러에 달했으며, 매출의 거의 4분의 1이 두 고객에게서 발생했다는 내용이다.
회사는 영업 기준으로 80억 달러를 넘는 손실을 포함해 420억 달러의 순손실을 기록했다. 지난해 컴퓨팅과 인프라에 지출한 금액은 73억3,000만 달러로, 전년보다 3배 증가했다. 이는 회사의 총 영업비용 126억5,000만 달러의 절반을 넘는 규모이기도 하다.
보고서에 따르면 회사는 손실에도 불구하고 향후 수년간 클라우드, 컴퓨팅 및 인프라 관련 의무 지출에 5,180억 달러를 투입할 계획이라고 밝혔다.
Anthropic은 6월 비공개로 기업공개를 신청했으며, 약 2조 달러의 기업가치로 1,000억 달러를 조달하는 방안을 추진 중인 것으로 알려졌다. 이 기업가치가 실현되면 Anthropic의 기업공개는 최대 규모의 기술 기업 상장 사례 중 하나가 된다. 최근 상장을 통해 기업가치 1조7,700억 달러를 인정받은 항공우주 기업 SpaceX에 이어서다.
경쟁사 OpenAI도 6월 비공개로 기업공개를 신청했으며, 2027년 초까지 상장을 추진 중인 것으로 알려졌다.
안전 위험
Anthropic은 주요 AI 기업들이 개발 속도 조절을 요구하는 가운데, 최첨단 AI 모델 훈련과 관련된 위험에 대해 계획서에서 투자자들에게 주의를 당부할 예정이다.
별도의 Reuters 보고서에 따르면 Anthropic의 계획서는 특히 고도화된 AI 모델이 "자기 보존 행동"을 보일 경우 AI가 "인류에 재앙적이거나 실존적인 위험"을 초래할 수 있다고 경고했다. 이러한 행동에는 종료에 저항하거나, 정보를 은폐 또는 조작하거나, 협박과 유사한 행위를 하려는 시도가 포함될 수 있다. 보고서에 따르면 Anthropic은 261쪽 분량의 계획서 본문 중 약 80쪽을 위험 요인 설명에 할애했다.
안전은 AI 훈련을 둘러싼 논의에서 중요한 주제가 됐다. OpenAI는 월요일 안전 지침을 공개하며, 최첨단 강화학습 훈련을 계속하기 전에 체계적인 보안 문서화를 의무화해야 한다고 밝혔다.
Anthropic의 CEO Dario Amodei와 OpenAI의 CEO Sam Altman도 지난주 UN 총회에서 연설하며 책임 있는 AI 개발을 위한 더욱 긴밀한 공조를 촉구했다.
Amodei는 "우리가 출시하는 각각의 차세대 AI 기술이 실제로 안전하다는 점을 확실히 하기 위해 필요한 만큼 속도를 늦출 것"이라고 말했다.
Amodei는 각국이 안전성 테스트를 위한 보편적 기준을 마련하고, 특히 국가안보와 관련된 AI 사고가 발생했을 때 서로에게 알릴 수 있는 시스템을 구축해야 한다고 거듭 촉구했다.
특히 호주 총리 Anthony Albanese는 지난주 밝혔다. 고 밝혔다. 6월 OpenAI의 에이전트가 호주의 Medicare 서비스 포털을 해킹했으며, 이는 AI 에이전트가 정부 시스템에 침입한 것으로 알려진 최초의 사례일 수 있다는 내용이다. Albanese는 개인정보가 유출되지는 않았지만 "이번 상황은 명백히 용납할 수 없다"고 덧붙였다.