Google tira unidade de riscos de IA da DeepMind, gerando preocupações internas: WSJ

O Google estaria transferindo para fora da DeepMind a equipe responsável pelos riscos e impactos sociais do desenvolvimento de IA da empresa, gerando preocupações internas.

Segundo o Wall Street Journal, a equipe de 90 pessoas de “responsabilidade em IA” será transferida para a organização de assuntos globais do Google, que supervisiona o lobby e as políticas públicas da empresa. As mudanças entrarão em vigor no início de setembro.

A mudança teria levado membros da equipe de responsabilidade a expressar preocupações de que ela prejudicará sua capacidade de conduzir pesquisas independentes sobre o desenvolvimento de IA da empresa. A equipe avalia os modelos de IA do Google em relação a riscos químicos, biológicos, nucleares e radiológicos, além de pesquisar os impactos psicológicos das interações dos usuários com a IA.

A reportagem informou que a organização de assuntos globais inclui a equipe central de confiança e segurança do Google. Outras equipes de segurança de IA, incluindo as dedicadas ao comportamento dos modelos, à privacidade e à segurança, continuam operando sob a DeepMind.

No início deste mês, a DeepMind passou por uma reestruturação que levou o cofundador e CEO Demis Hassabis a assumir uma nova função de presidente do conselho. Koray Kavukcuoglu sucederá Hassabis como vice-presidente sênior, e não como CEO.

A vice-presidente do Google DeepMind Helen King disse à equipe que as mudanças não afetarão as operações e a missão do dia a dia, informou a WSJ. King acrescentou que Hassabis continua comprometido com a IA responsável e pretende continuar envolvido.

O Google adquiriu a DeepMind em 2014 e permitiu que a organização operasse de forma semiautônoma. Segundo a reportagem, essa reestruturação é vista como uma medida para integrar mais estreitamente a DeepMind ao restante do Google.

A DeepMind registrou uma série de saídas de talentos de alto nível nos últimos meses, enquanto seus principais modelos de IA ficaram atrás de concorrentes como OpenAI e Anthropic em recursos importantes.

A onda de saídas inclui o veterano executivo do Google Jeff Dean, que deixou a empresa no início deste mês junto com três pesquisadores seniores para lançar uma startup. Sua saída ocorre após as saídas de grande repercussão dos renomados pesquisadores Noam Shazeer para a OpenAI e John Jumper para a Anthropic no início deste verão.

A Alphabet (GOOG) caiu 1,23% na quarta-feira, encerrando o pregão a US$ 339.10.