Google tira unidade de riscos de IA da DeepMind, gerando preocupações internas: WSJ

Segundo relatos, o Google está transferindo para fora da DeepMind a equipe responsável pelos riscos e impactos sociais do desenvolvimento de IA da empresa, gerando preocupações internas.

De acordo com o Wall Street Journal, a equipe de 90 pessoas de "responsabilidade em IA" será transferida para a organização de assuntos globais do Google, que supervisiona o lobby e as políticas públicas da empresa. As mudanças entrarão em vigor no início de setembro.

Segundo relatos, a mudança levou membros da equipe de responsabilidade a manifestar preocupações de que ela prejudicará sua capacidade de conduzir pesquisas independentes sobre o desenvolvimento de IA da empresa. A equipe avalia os modelos de IA do Google quanto a riscos químicos, biológicos, nucleares e radiológicos, além de pesquisar os impactos psicológicos das interações dos usuários com a IA.

A reportagem informou que a organização de assuntos globais inclui a equipe central de confiança e segurança do Google. Outras equipes de segurança de IA, incluindo as voltadas ao comportamento dos modelos, à privacidade e à segurança, continuam sob a DeepMind.

No início deste mês, a DeepMind passou por uma reestruturação que levou o cofundador e CEO Demis Hassabis a assumir um novo cargo de presidente. Koray Kavukcuoglu sucederá Hassabis como vice-presidente sênior, e não como CEO.

A vice-presidente do Google DeepMind, Helen King, disse à equipe que as mudanças não afetarão as operações e a missão do dia a dia, informou a WSJ. King acrescentou que Hassabis continua comprometido com a IA responsável e planeja seguir envolvido.

O Google adquiriu a DeepMind em 2014 e permitiu que a organização operasse de forma semiautônoma. Segundo a reportagem, essa reestruturação é vista como uma medida para integrar mais estreitamente a DeepMind ao restante do Google.

A DeepMind registrou a saída de vários talentos de alto nível nos últimos meses, enquanto seus principais modelos de IA ficaram atrás de concorrentes como OpenAI e Anthropic em recursos essenciais.

A onda de saídas inclui o veterano executivo do Google Jeff Dean, que deixou a empresa no início deste mês junto com três pesquisadores seniores para lançar uma startup. Sua saída ocorreu após as saídas de destaque dos renomados pesquisadores Noam Shazeer para a OpenAI e John Jumper para a Anthropic no início deste verão.

A Alphabet (GOOG) caiu 1,23% na quarta-feira, fechando a $339,10.