O CEO da OpenAI, Sam Altman, disse na quarta-feira ao Conselho de Segurança da ONU que sua empresa já desacelerou o desenvolvimento de IA antes e faria isso novamente se não conseguisse manter seus sistemas sob o controle dos humanos responsáveis por operá-los.
“Já desaceleramos unilateralmente no passado. Faremos isso no futuro”, disse Altman. “Vencer empresas em uma corrida competitiva não é motivo para tomar decisões precipitadas.”
No entanto, ele nunca explicou exatamente quando ou como essas desacelerações ocorreram.
Altman disse que suas preocupações só aumentaram à medida que a IA assume um papel maior na criação de futuras versões de si mesma. Se o progresso acelerar demais, as pessoas responsáveis por esses sistemas poderão ter dificuldade para entender o que eles estão fazendo ou como intervir se algo der errado.
“Podemos perder o controle do futuro para a IA”, alertou.
Altman observou que outro risco é o de os sistemas de IA mais avançados darem a um pequeno número de empresas ou países influência excessiva. Para fazer frente a isso, ele defendeu padrões compartilhados que possam ser usados para testar sistemas avançados, verificar se as salvaguardas funcionam e comunicar incidentes graves.
Também discursando perante o conselho, o CEO da Anthropic, Dario Amodei, fez uma promessa semelhante.
“Vamos desacelerar o quanto for necessário para garantir que toda tecnologia de IA lançada por nós, a cada nova geração, seja de fato segura”, disse.
Amodei também pediu que os países cheguem a um acordo sobre padrões universais para testes de segurança e formas de alertar uns aos outros sobre incidentes envolvendo IA, especialmente os que envolvam violações da segurança nacional.
“Nenhum líder, nenhuma empresa e nenhum país consegue lidar com isso sozinho”, disse.