A Anthropic expandiu suas operações na Ásia-Pacífico, abrindo um escritório em Singapura na quarta-feira e assinando um memorando de entendimento com o Ministério do Desenvolvimento Digital e da Informação do país sobre segurança de IA.
Em um comunicado, a Anthropic afirmou que o Claude já é usado por empresas e serviços governamentais de Singapura, como GovTech Singapore, Grab e DBS. De acordo com o Índice Econômicoda Anthropic, Singapura ocupa o segundo lugar entre 121 países no uso do Claude em relação à sua população.
"Estamos comprometidos com Singapura no longo prazo", disse Dale Finlay, gerente-geral da Anthropic para a ASEAN. "Nossos clientes aqui exigem um padrão extremamente alto da IA, especialmente quando se trata de confiabilidade e segurança. Ter uma equipe local significa que podemos nos aproximar ainda mais das organizações que usam o Claude para resolver seus problemas mais complexos."
Kai Fong Chng, secretário permanente do Ministério do Desenvolvimento Digital e da Informação de Singapura, e Ben Mann, cofundador da Anthropic, assinaram o MOU durante a Singapore International Cyber Week. O acordo abrange a cooperação em segurança de IA, proteção e avaliação de modelos, incluindo pesquisas sobre a adoção da IA e seu impacto, além da adoção responsável nos setores público e privado, afirmou a Anthropic.
A segurança e o alinhamento de IA continuam sendo grandes preocupações para os desenvolvedores de IA de fronteira. No mês passado, o CEO da Anthropic, Dario Amodei, propôs desacelerar o ritmo do desenvolvimento de IA, citando preocupações com segurança e alinhamento. Sam Altman, da OpenAI, Demis Hassabis, da Google DeepMind, e Elon Musk, da SpaceXSI, apoiaram a proposta.
"A abordagem de Singapura em relação à IA sempre foi permitir a inovação acompanhando de perto seus riscos em evolução. A confiança é fundamental para que empresas, trabalhadores e o público usem a IA com segurança", disse Chng na quarta-feira. "Esta parceria com a Anthropic reflete o compromisso do governo de ampliar a adoção responsável da IA, aprofundar as capacidades de nossas empresas e agências governamentais e gerar impacto para Singapura."
A Anthropic trabalha com o governo de Singapura desde 2023. Antes, havia participado do Generative AI Evaluation Sandbox, administrado pela Infocomm Media Development Authority e pela AI Verify Foundation, e posteriormente firmado uma parceria em um projeto de red teaming.
"Nos termos do MOU, planejamos realizar intercâmbios técnicos com as instituições de segurança, proteção e garantia de IA de Singapura sobre avaliação de modelos, padrões de teste e resposta a incidentes", afirmou a Anthropic. "Realizamos trabalhos semelhantes com institutos de segurança em todo o mundo, nos quais o compartilhamento de informações técnicas oferece aos governos uma visão mais clara das capacidades e dos riscos da IA de fronteira, ao mesmo tempo que ajuda os desenvolvedores a criar modelos mais seguros."