Anthropic이 아시아·태평양 사업을 확대해 수요일 싱가포르에 사무소를 개설하고, 싱가포르 디지털개발정보부와 AI 안전에 관한 양해각서를 체결했다.
Anthropic은 성명에서 Claude가 이미 싱가포르 기업과 GovTech Singapore 같은 정부 서비스, Grab과 DBS 같은 기업에서 사용되고 있다고 밝혔다.Economic Index에 따르면 싱가포르는 인구 대비 Claude 사용량에서 121개국 중 2위를 차지했다.
Anthropic의 아세안 총괄 매니저인 Dale Finlay는 "우리는 장기적인 관점에서 싱가포르에 전념하고 있습니다"라고 말했다. 이어 "이곳의 고객들은 특히 신뢰성과 보안 측면에서 AI에 매우 높은 기준을 요구합니다. 현지에 팀을 두면 Claude를 가장 어려운 문제 해결에 활용하는 조직들과 더욱 긴밀하게 협력할 수 있습니다"라고 덧붙였다.
싱가포르 디지털개발정보부의 상임차관 Kai Fong Chng과 Anthropic 공동 창업자 Ben Mann은 Singapore International Cyber Week 기간에 MOU에 서명했다. Anthropic은 이 MOU가 AI 안전·보안·모델 평가 분야의 협력을 다루며, AI 도입과 그 영향에 관한 연구와 공공 및 민간 부문에서의 책임 있는 도입도 포함한다고 밝혔다.
AI 안전과 정렬은 여전히 첨단 AI 개발업체들의 주요 우려 사항이다. 지난달 Anthropic CEO Dario Amodei는 안전성과 정렬에 대한 우려를 이유로 AI 개발 속도를 늦추자고 제안했다. OpenAI의 Sam Altman, Google DeepMind의 Demis Hassabis, SpaceXSI의 Elon Musk가 이 제안을 지지했다.
Chng는 수요일 "싱가포르의 AI 접근 방식은 변화하는 위험에 발맞추면서 혁신을 가능하게 하는 것이었습니다. 기업과 근로자, 대중이 안심하고 AI를 사용하려면 신뢰가 중요합니다"라고 말했다. 이어 "Anthropic과의 이번 파트너십은 AI의 책임 있는 도입을 확대하고, 기업과 정부 기관의 역량을 강화하며, 싱가포르에 실질적인 성과를 제공하려는 정부의 의지를 보여줍니다"라고 덧붙였다.
Anthropic은 2023년부터 싱가포르 정부와 협력해 왔다. 이전에는 Infocomm Media Development Authority와 AI Verify Foundation이 운영하는 Generative AI Evaluation Sandbox에 참여했으며, 이후 레드팀 프로젝트에서도 협력했다.
Anthropic은 "MOU에 따라 모델 평가, 테스트 표준, 사고 대응을 주제로 싱가포르의 AI 안전·보안·보증 기관들과 기술 교류를 진행할 계획입니다"라고 밝혔다. 이어 "개발자들이 더 안전한 모델을 구축하는 동시에 기술 정보를 공유함으로써 정부가 첨단 AI의 역량과 위험을 더 명확하게 파악할 수 있도록, 전 세계 안전 연구기관들과 유사한 협력을 진행하고 있습니다"라고 덧붙였다.