A Anthropic atualizou sua política anual de uso, buscando esclarecer as restrições ao uso do Claude para interferência eleitoral, desenvolvimento de armas e vigilância. É a primeira atualização de uso do laboratório de IA em mais de um ano.
A empresa "refinou" especificamente seu foco na proibição do uso do Claude para enganar eleitores ou interromper eleições, como se passar por candidatos ou disseminar informações falsas sobre eles. A Anthropic renomeou essa seção para "Não comprometer processos democráticos", para refletir esse escopo. A empresa também consolidou suas regras sobre o uso do Claude para operar redes de contas falsas e sites de notícias fictícios.
Sobre o desenvolvimento de armas, a seção atualizada da Anthropic deixa claro "que nossas proibições incluem o software e os componentes que fazem as armas funcionar, além de ações como armar drones e outros veículos autônomos". A empresa também reescreveu sua seção sobre vigilância e justiça criminal para declarar com mais precisão o que proíbe.
A atualização ocorre após uma disputa de meses com o governo dos EUA sobre as restrições impostas pela Anthropic ao uso do Claude em armas autônomas e vigilância em massa. O Pentágono abandonou recentemente as ferramentas de IA da Anthropic após um impasse envolvendo as salvaguardas da empresa.
Outra atualização que ganhou destaque nas redes sociais na quinta-feira foi a abordagem da Anthropic sobre comportamentos abusivos em relação aos seus modelos.
"Adicionamos uma proibição a comportamentos abusivos ou cruéis, persistentes e desnecessários em relação aos nossos modelos", diz a publicação no blog. "A atualização da política deve se aplicar apenas a casos extremos, em que os usuários agem repetidamente de forma cruel com nossos modelos, sem um propósito discernível. Ela não se aplica a manifestações comuns de frustração dos usuários, contestação, temas criativos sombrios ou testes e pesquisas com modelos."
A política atualizada entra em vigor em 12 de novembro.