Google traslada la unidad de riesgos de IA fuera de DeepMind, lo que genera preocupación interna: WSJ

Según los informes, Google está trasladando fuera de DeepMind al equipo responsable de los riesgos y los impactos sociales de su desarrollo de IA, lo que genera preocupación interna.

Según Wall Street Journal, el equipo de 90 personas dedicado a la «responsabilidad en IA» se trasladará a la organización de asuntos globales de Google, que supervisa las actividades de lobby y las políticas públicas de la compañía. Los cambios entrarán en vigor a principios de septiembre.

Según los informes, este cambio ha llevado a miembros del equipo de responsabilidad a expresar su preocupación de que obstaculice su capacidad para realizar investigaciones independientes sobre el desarrollo de IA de la compañía. El equipo evalúa los modelos de IA de Google en busca de riesgos químicos, biológicos, nucleares y radiológicos, además de investigar los impactos psicológicos de las interacciones de los usuarios con la IA.

El informe señaló que la organización de asuntos globales incluye el equipo central de confianza y seguridad de Google. Otros equipos de seguridad de la IA, incluidos los dedicados al comportamiento de los modelos, la privacidad y la seguridad, continúan operando bajo DeepMind.

A principios de este mes, DeepMind llevó a cabo una reestructuración en la que su cofundador y CEO, Demis Hassabis, asumió un nuevo cargo como presidente. Koray Kavukcuoglu sucederá a Hassabis como vicepresidente sénior, no como CEO.

Helen King, vicepresidenta de Google DeepMind, dijo al equipo que los cambios no afectarán las operaciones diarias ni la misión, informó WSJ. King añadió que Hassabis sigue comprometido con una IA responsable y planea continuar involucrado.

Google adquirió DeepMind en 2014 y permitió que la organización operara de manera semiautónoma. Según el informe, esta reestructuración se considera un movimiento para integrar más estrechamente DeepMind con el resto de Google.

DeepMind ha sufrido una serie de salidas de talento destacado en los últimos meses, mientras sus principales modelos de IA quedaron rezagados frente a competidores como OpenAI y Anthropic en capacidades clave.

La ola de salidas incluye a Jeff Dean, veterano ejecutivo de Google, quien dejó la compañía a principios de este mes junto con tres investigadores sénior para lanzar una startup. Su salida se produce después de las sonadas salidas de los destacados investigadores Noam Shazeer a OpenAI y John Jumper a Anthropic a principios de este verano.

Alphabet (GOOG) cayó un 1,23% el miércoles, hasta cerrar en 339,10 dólares.