O CEO da Anthropic, Dario Amodei publicou uma postagem nas redes sociais em resposta às críticas às práticas de segurança de IA da empresa, argumentando que sua estratégia para competir na fronteira tecnológica foi deliberadamente projetada para priorizar a segurança.
A postagem foi uma resposta a Nathan Calvin, diretor de estratégia da Encode AI, que questionou se as ações da Anthropic ao longo do último ano eram compatíveis com seu compromisso com a segurança da IA.
Em uma postagem publicada na terça-feira no X, Calvin listou várias decisões da empresa — incluindo grandes acordos de computação, o uso de uma quantidade significativa de computação em P&D interno para acelerar o desenvolvimento e o compartilhamento com o Congresso de um projeto de lei que impediria a aplicação de partes fundamentais das leis estaduais de segurança de IA — como evidências de que a empresa estava primordialmente concentrada em vencer a corrida pela IA de fronteira, e não na segurança.
Amodei reconheceu alguns dos pontos de Calvin, especificamente os erros de comunicação da Anthropic. No entanto, o CEO da Anthropic rejeitou a caracterização geral do histórico da empresa.
"Nossa estratégia sempre foi o que chamo de 'corrida pela excelência' — ao mostrar que é possível desenvolver a tecnologia com responsabilidade, podemos elevar o padrão de todo o setor", escreveu Amodei. "Considerando essa estratégia como um todo, tenho orgulho do nosso histórico e continuo defendendo-o."
Benefícios de segurança com alto custo comercial
Em sua postagem no X, Amodei listou nove ações adotadas pela Anthropic no último ano que foram "custosas do ponto de vista comercial", mas ainda assim realizadas por seus benefícios de segurança.
Entre elas estão o apoio da Anthropic à SB 53 da Califórnia — que obrigou grandes laboratórios de IA a publicar e manter estruturas de segurança — quando fazê-lo era "politicamente arriscado", além da manutenção de salvaguardas biológicas muito rigorosas em seus modelos, apesar dos possíveis impactos positivos no campo biomédico. A decisão foi tomada para impedir possíveis tentativas de usar a IA para criar armas biológicas.
A empresa também adiou a disponibilidade geral de modelos da classe Mythos para estabelecer salvaguardas cibernéticas mais fortes. Outros itens da lista incluem a defesa pública da autoridade do governo para bloquear lançamentos de modelos e o apoio contínuo aos controles de exportação de chips e equipamentos para fabricação de chips destinados à China.
Essa troca entre as duas figuras do setor de IA ocorreu enquanto o debate sobre segurança e desalinhamento da IA continua se intensificando, com a preocupação crescente de que a IA avançada possa um dia superar o controle humano.
"Para fazer justiça, há questões importantes que precisam ser enfrentadas — e que estamos enfrentando — sobre o que fazer quando a aceleração impulsionada pela IA se tornar rápida o suficiente para dificultar que a segurança acompanhe o ritmo", acrescentou Amodei. "Estamos nos aproximando desse ponto, e é isso que está orientando parte da nossa reflexão sobre 'cadenciamento'."