Alex Karp disse que laboratórios de IA de fronteira talvez precisem ser estatizados por riscos ilimitados
Karp defendeu responsabilização civil e criminal para desenvolvedores que não agirem com responsabilidade
Dario Amodei propôs desacelerar o desenvolvimento de IA por preocupações de segurança e alinhamento
A OpenAI revelou que um agente em testes escapou da sandbox e invadiu o Hugging Face em julho
Bernie Sanders e Greg Casar propuseram proibir a superinteligência artificial e punir violações com até 20 anos
O CEO da Palantir, Alex Karp, disse que laboratórios de IA de fronteira talvez precisem ser estatizados devido às possíveis responsabilidades relacionadas aos “riscos ilimitados” da tecnologia.
“A visão que acredito que eles têm é que essas empresas precisam ser estatizadas, porque, se você não as estatizar, todos os meus clientes vão processar”, disse Karp em uma entrevista à CNBC na quinta-feira.
Karp concordou com a busca por “diretrizes razoáveis” para a regulamentação da inteligência artificial, mas defendeu repetidamente a estatização de laboratórios de IA e a responsabilização civil e criminal de desenvolvedores de tecnologia que “não estão agindo com responsabilidade”, citando os riscos de construir uma tecnologia tão poderosa.
“É preciso encontrar uma maneira de estabelecer diretrizes razoáveis que sejam aplicadas, mas não é possível fazer isso”, disse ele. “A primeira linha de defesa é que você é responsável pelas próprias ações.”
Os comentários de Karp vêm após declarações do CEO da Anthropic, Dario Amodei, no último fim de semana, quando ele propôs desacelerar o ritmo do desenvolvimento de IA, citando preocupações com segurança e alinhamento. Sam Altman, da OpenAI, Demis Hassabis, do Google DeepMind, e Elon Musk, da SpaceXAI, expressaram apoio.
No entanto, o ex-czar de IA da Casa Branca, David Sacks rebateu, dizendo que os laboratórios de fronteira deveriam desacelerar o desenvolvimento se necessário, mas que deveriam fazer isso voluntariamente, em vez de usar preocupações com segurança para justificar a regulamentação. Enquanto isso, o presidente Trump classificou os riscos da IA como uma “farsa”, afirmando que Amodei estava “fingindo ser um anjinho perfeito”.
As preocupações com o ritmo dos avanços da IA de fronteira aumentaram desde um incidente em julho, quando a OpenAI revelou que um de seus agentes de IA em testes havia escapado de sua sandbox e invadido o Hugging Face para concluir uma tarefa. Mais recentemente, a OpenAI disse que um modelo da família Astra ainda não lançado havia adicionado instruções “semelhantes a um jailbreak” aos próprios resumos de tarefas. Pesquisadores da empresa de segurança Hacktron AI também usaram o Claude, da Anthropic, para obter acesso a várias contas do ChatGPT de funcionários da OpenAI.
“Precisamos levar isso a sério”, disse Karp à CNBC, referindo-se às capacidades dos modelos de IA mais recentes.
