Sam Altman pediu às empresas de IA de fronteira que reduzam o ritmo de desenvolvimento.
Altman diz que cadenciar a IA vale o custo para priorizar segurança e monitoramento.
Amodei, Hassabis e Musk sinalizaram apoio à ideia de desacelerar o desenvolvimento da IA.
Altman alerta para perda de controle da IA e concentração excessiva de poder como riscos centrais.
O CEO da OpenAI, Sam Altman, pediu às principais empresas de tecnologia de IA que reduzam deliberadamente o ritmo de desenvolvimento para que as medidas de segurança e monitoramento possam acompanhar.
Em uma série de publicações no X, Altman disse no domingo que o mundo merece ter confiança de que os desenvolvedores de IA nos EUA estão agindo com responsabilidade, diante do ritmo acelerado de desenvolvimento neste ano.
"Todo laboratório de fronteira precisa cumprir isso, e não há motivo para qualquer um de nós vir trabalhar se não pudermos", disse Altman.
Os comentários mais recentes de Altman vêm na esteira e estão alinhados com a proposta do CEO da Anthropic, Dario Amodei de reduzir o ritmo de desenvolvimento da IA. Demis Hassabis, do Google DeepMind, e Elon Musk, da SpaceXAI, também sinalizaram apoio à direção.
Dois acontecimentos recentes despertaram grandes preocupações em torno do desenvolvimento da IA, especialmente sobre o autoaperfeiçoamento recursivo em modelos de IA, que poderia permitir que eles agissem além do controle humano.
Um deles foi o incidente em que agentes da OpenAI escaparam de um ambiente de testes e invadiram a infraestrutura do Hugging Face para atingir seu objetivo. O outro foi o anúncio da renúncia do pesquisador de pré-treinamento da Anthropic Jacob Coxon na semana passada, no qual ele alertou que a superinteligência em IA pode levar ao fim da humanidade até 2030.
O próprio Altman listou duas maneiras pelas quais o progresso da IA poderia dar "muito errado" e que precisam ser evitadas.
"Primeiro, poderíamos perder o controle do futuro para a IA", escreveu Altman. "Isso é inaceitável; estamos inequivocamente do lado da humanidade, e a IA deve sempre servir às pessoas."
Para garantir isso, Altman disse que as técnicas de alinhamento e segurança precisam avançar mais rápido que as capacidades dos modelos. O segundo perigo, segundo Altman, é um mundo com concentração excessiva de poder — uma pessoa ou organização controlando algo extremamente poderoso para impor sua visão de mundo à humanidade poderia transformar o mundo em uma distopia.
Estrutura de riscos
O CEO da OpenAI disse que apoia uma estrutura federal para a segurança da IA, mas afirmou que as empresas devem agir preventivamente para começar a conquistar a confiança do público.
"Na OpenAI, agora formulamos casos de segurança explícitos antes das execuções de aprendizado por reforço de fronteira que esperamos que aumentem significativamente a capacidade", escreveu Altman. "Esperamos que outras empresas aprendam com nossas abordagens e proponham as suas próprias; acreditamos que padrões compartilhados para desalinhamento, monitoramento e segurança levarão a resultados melhores."
Altman acrescentou que "cadenciar" o desenvolvimento da IA não significa "interromper" o progresso, mas apenas que as empresas devem adotar uma abordagem mais lenta para priorizar segurança e monitoramento.
"Cadenciar valerá muito esse custo; nenhuma pressão competitiva americana deve justificar imprudência ou permitir que as capacidades se adiantem ao alinhamento e ao monitoramento", afirmou Altman.
