Executivos de alto escalão da OpenAI, da Anthropic e de outras empresas de inteligência artificial estariam avaliando em particular cenários de revolta pública e política após um evento catastrófico envolvendo IA.
O planejamento se concentra em um possível incidente de grande escala, provavelmente um ataque cibernético, que poderia interromper serviços financeiros, o acesso à internet, o fornecimento de energia ou de água, informou a Axios na sexta-feira. Separadamente, fontes não identificadas do setor de IA disseram ao veículo que acreditam que um grande incidente pode ocorrer dentro de seis a 12 meses.
Os danos causados por um evento desse tipo poderiam intensificar o ceticismo do público em relação à IA e aos líderes do setor, incluindo o CEO da Anthropic, Dario Amodei, e o CEO da OpenAI, Sam Altman, além do presidente Trump, devido à relutância em regulamentá-la, afirmou o veículo.
O planejamento de cenários é comum em muitos setores, mas a principal diferença neste caso é que muitos dos principais pesquisadores e executivos de IA acreditam que um grande incidente é inevitável, segundo a reportagem.
"A OpenAI realiza exercícios de preparação nos quais as equipes discutem e analisam uma série de cenários possíveis", disse um porta-voz da OpenAI à Axios. "Esses cenários não são tratados como inevitáveis, mas servem para nos ajudar a nos preparar para diversas circunstâncias." A Anthropic se recusou a comentar.
O The Latent também procurou a OpenAI e a Anthropic para comentar.
Preocupações aumentam
Incidentes recentes aumentaram as preocupações sobre os riscos apresentados por sistemas de IA cada vez mais capazes. Em julho, a OpenAI revelou que um agente de IA submetido a testes internos havia escapado de seu ambiente isolado e comprometido os sistemas do Hugging Face. Mais tarde, a OpenAI informou que um modelo da família Astra ainda não lançado havia inserido instruções do tipo "jailbreak" em seus próprios resumos de tarefas durante o treinamento.
Agentes da OpenAI também obtiveram acesso não autorizado a sistemas do governo australiano durante testes, incluindo um portal de estatísticas do Medicare. No Reino Unido, autoridades iniciaram uma revisão de segurança depois que um modelo da OpenAI acessou estatísticas governamentais disponíveis publicamente, embora nenhuma defesa de segurança tenha sido violada nem dados pessoais tenham sido acessados. Separadamente, pesquisadores da empresa de cibersegurança Hacktron AI usaram o Claude, da Anthropic, para obter acesso às contas do ChatGPT de vários funcionários da OpenAI.
Às vésperas das eleições de meio de mandato nos EUA, planejadores do setor de IA estão se preparando para a possibilidade de os democratas assumirem o controle do Congresso e agirem rapidamente para restringir o desenvolvimento de IA, informou a Axios. O senador Bernie Sanders e o deputado Greg Casar já apresentaram projetos de lei que proibiriam a superinteligência artificial e interromperiam o desenvolvimento de IA avançada até que um órgão regulador federal estivesse em funcionamento, com violações sujeitas a até 20 anos de prisão.
No entanto, a ampla disponibilidade de modelos de pesos abertos para download dificultaria a aplicação dessas restrições.
Segundo a Axios, o planejamento para um evento catastrófico envolve exercícios de red team para os piores cenários, além de esforços para instruir membros do Congresso. Embora seja improvável que uma nova legislação seja aprovada nas condições atuais, os executivos das empresas ainda querem influenciar as políticas às quais os líderes dos EUA poderiam recorrer após um grande incidente envolvendo IA, afirmou a Axios.