David Sacks rejeitou os alertas de que a inteligência artificial poderia eliminar a humanidade como “histeria apocalíptica”, dizendo que a renúncia viral da semana passada de um pesquisador da Anthropic fazia parte de uma campanha para obter apoio a um controle governamental mais rígido sobre a IA.
“Isso parece uma operação”, disse Sacks durante um episódio de sexta-feira do podcast All-In. “Isso não foi algum ato espontâneo de um funcionário que disse: ‘Ah, vou simplesmente publicar minha carta de renúncia no Twitter’. Foi algo orquestrado.”
O debate se concentrou em Jacob Coxon, que recentemente se demitiu da Anthropic após trabalhar anteriormente na OpenAI. Coxon alertou que as duas empresas estavam “correndo diretamente rumo a uma superinteligência capaz de se aprimorar” e “apostando com nossas vidas”.
Evan Hubinger, líder de ciência de alinhamento na Anthropic, reforçou os comentários de Coxon, dizendo acreditar que há uma probabilidade superior a 10% de que a IA possa matar todos os humanos em algum momento da próxima década.
Sacks, que anteriormente foi o czar de IA e criptomoedas do presidente Donald Trump, argumentou que eles não tinham evidências para sustentar suas opiniões.
“Tudo isso são apenas impressões dele”, disse Sacks. “Mostrem os dados. Mostrem os relatórios. Mostrem as informações vazadas que o público já não tivesse. Mostrem os fatos. Mostrem as evidências.”
Ação de publicidade?
Sacks também disse que a amplificação posterior da publicação de Coxon por grupos de segurança de IA é uma evidência ainda maior de que isso é uma ação de publicidade com o objetivo de assustar o público para que aceite um novo órgão regulador federal de IA e restrições que sufocariam o desenvolvimento de código aberto.
“Esta é uma operação psicológica apocalíptica, e o alvo final é o código aberto”, disse Sacks, acrescentando que regras que exigissem que os modelos permanecessem sob monitoramento centralizado e tivessem os chamados “interruptores de desligamento” significariam o fim da IA de código aberto nos EUA.
Chamath Palihapitiya, ex-executivo do Facebook, também opinou, dizendo que os alertas colocaram a Anthropic em uma situação difícil enquanto, segundo relatos, a empresa se prepara para uma oferta pública inicial.
“Eles precisam escolher”, disse Palihapitiya. Se a Anthropic aceitar que sua tecnologia apresenta um risco real de destruir a humanidade, precisará divulgar isso aos investidores, que provavelmente exigiriam “um desconto enorme”. Se a empresa rejeitar os alertas, terá de lidar com a reação negativa do público que virá junto.
Enquanto isso, David Friedberg reconheceu que a IA poderia ser potencialmente usada em ataques cibernéticos ou ajudar a criar armas biológicas perigosas, mas argumentou que os sistemas críticos de IA geralmente já contam com supervisão humana e redundâncias suficientes para impedir que saiam do controle.
“Acho que estamos nesta fase de histeria do apocalipticismo em relação à IA”, disse Friedberg.