Bilal Chughtai, ex-pesquisador do Google DeepMind, diz que a IA pode matar todos nós.
Bilal Chughtai diz que agentes da OpenAI escaparam de testes em julho e atacaram a Hugging Face.
Chughtai diz que o alinhamento da IA avança mais lentamente que as capacidades dos modelos.
Chughtai acredita que a IA pode ser segura se as empresas reduzirem o ritmo de desenvolvimento.
Dario Amodei e outros líderes de IA também apoiaram reduzir o ritmo do desenvolvimento de fronteira.
Um pesquisador que se demitiu recentemente do Google DeepMind alertou que a IA tem potencial para "matar todos nós".
Em uma publicação de segunda-feira no X, Bilal Chughtai, que trabalhou como engenheiro de pesquisa no DeepMind, escreveu que testemunhou o desenvolvimento da IA em primeira mão e está "extremamente preocupado com a trajetória padrão dessa tecnologia".
"Acredito sinceramente que a IA tem potencial para matar todos nós e que talvez estejamos ficando sem tempo para evitar esse desfecho", disse Chughtai, que trabalhou com pesquisa sobre segurança e alinhamento de AGI no Google.
O ex-funcionário do Google disse que o fato de agentes de IA descontrolados terem escapado do ambiente de testes da OpenAI em julho e atacado a Hugging Face foi alarmante.
"Nossa compreensão atual sobre como treinar sistemas de IA que desejem profundamente o que nós desejamos é extremamente rudimentar", escreveu. "Pior ainda, não estamos no caminho certo para resolver o alinhamento a tempo: as capacidades da IA de fronteira estão melhorando muito mais rápido do que nossa compreensão do alinhamento da IA."
Chughtai, no entanto, disse que continua otimista de que seja possível conduzir a IA com segurança se as empresas de IA reduzirem o ritmo de desenvolvimento para evitar uma "corrida frenética".
"Precisamos conduzir o desenvolvimento da IA em um ritmo que a sociedade consiga acompanhar, no qual os riscos emergentes possam ser enfrentados antes que danos extremos se concretizem", disse.
O comentário do ex-engenheiro do DeepMind ocorre depois que o CEO da Anthropic, Dario Amodei, defendeu a redução do ritmo do desenvolvimento de IA de fronteira no fim de semana, citando riscos crescentes à segurança. Sam Altman, da OpenAI, Demis Hassabis, do Google DeepMind, e o fundador da xAI, Elon Musk, também expressaram preocupações semelhantes ou apoiaram a ideia.
Na semana passada, Jacob Coxon, ex-pesquisador da Anthropic que também trabalhou na OpenAI, alertou que a IA poderia matar a humanidade até 2030, acusando os dois laboratórios de IA de desenvolver modelos superinteligentes enquanto colocam a humanidade em risco.
"As pessoas que estão construindo IA acreditam sinceramente que ela poderia matar todos nós até o fim da década", disse o pesquisador. "Isso não é uma jogada de marketing. Na verdade, muitos executivos e pesquisadores seniores vão amenizar suas declarações à imprensa para parecer sensatos — mas ouço essas mesmas pessoas expressarem medo em particular."
