Zuckerberg diz que a Meta adiou o Muse por segurança sem pedir que concorrentes fizessem o mesmo

O CEO da Meta, Mark Zuckerberg, aparentemente entrou no debate sobre o ritmo do desenvolvimento da inteligência artificial na noite de terça-feira, dizendo que a empresa adiou por vários meses seu produto de assistente pessoal de IA, Muse, sem pedir que os concorrentes fizessem o mesmo.

No fim de semana, o CEO da Anthropic, Dario Amodei, havia proposto desacelerar o ritmo do desenvolvimento de IA, citando preocupações com segurança e alinhamento. Sam Altman, da OpenAI, Demis Hassabis, do Google DeepMind, e Elon Musk, da SpaceXAI, também sinalizaram apoio à proposta.

"A Meta adiou o lançamento do Muse por vários meses para se concentrar em segurança e proteção", Zuckerberg publicou no X. "Não pedimos que todos os outros fizessem isso antes de nós. Apenas fizemos isso como parte do nosso trabalho diário, porque estava claramente correto para as pessoas e para nós."

O chefe da Meta disse que todo laboratório de IA tem a responsabilidade de treinar seus modelos em um ritmo seguro e é capaz de tomar suas próprias medidas para garantir que isso aconteça, acrescentando que envolver avaliadores e consultores independentes é uma prática recomendada do setor.

Incentivos à autorregulação

Como as pessoas não querem agentes desalinhados com elas e que não façam o que elas pedem, os laboratórios já têm um forte incentivo para tornar seus modelos mais alinhados. Além disso, os laboratórios enfrentam uma responsabilidade jurídica substancial se seus modelos causarem danos, portanto também há um forte incentivo para evitar isso, disse o CEO da Meta.

"Qualquer laboratório que não se concentre em alinhamento ficará para trás", acrescentou.

Respondendo aos comentários anteriores de Amodei, o ex-czar de IA da Casa Branca, David Sacks disse que os laboratórios que desenvolvem modelos de fronteira deveriam desacelerar o desenvolvimento se acreditassem que ele é perigoso. No entanto, argumentou que deveriam fazer isso voluntariamente, em vez de usar preocupações de segurança para justificar uma regulamentação que pode consolidar seu domínio de mercado.

"Comprometer a maioria significativa do poder computacional para atender às pessoas, em vez de correr em direção ao autoaperfeiçoamento recursivo, é uma das melhores maneiras de garantir que desenvolvamos essa tecnologia com segurança", disse Zuckerberg. "A Meta assumiu esse compromisso, e outros laboratórios também podem fazer isso."