Google traslada la unidad de riesgos de IA fuera de DeepMind, lo que genera inquietud interna: WSJ

Según informes, Google está trasladando fuera de DeepMind al equipo responsable de los riesgos y los impactos sociales de su desarrollo de IA, lo que ha generado inquietud interna.

Según Wall Street Journal, el equipo de 90 personas de «responsabilidad en IA» pasará a la organización de asuntos globales de Google, que supervisa las actividades de cabildeo y las políticas públicas de la compañía. Los cambios entrarán en vigor a principios de septiembre.

Según los informes, este traslado ha llevado a miembros del equipo de responsabilidad a expresar su preocupación de que obstaculice su capacidad para realizar investigaciones independientes sobre el desarrollo de IA de la empresa. El equipo evalúa los modelos de IA de Google para detectar riesgos químicos, biológicos, nucleares y radiológicos, además de investigar los impactos psicológicos de las interacciones de los usuarios con la IA.

El informe señaló que la organización de asuntos globales incluye el equipo central de confianza y seguridad de Google. Otros equipos de seguridad de la IA, incluidos los dedicados al comportamiento de los modelos, la privacidad y la seguridad, siguen operando bajo DeepMind.

A principios de este mes, DeepMind llevó a cabo una reestructuración en la que su cofundador y CEO, Demis Hassabis, asumió un nuevo cargo como presidente. Koray Kavukcuoglu sucederá a Hassabis como vicepresidente sénior, no como CEO.

La vicepresidenta de Google DeepMind, Helen King, dijo al equipo que los cambios no afectarán las operaciones ni la misión del día a día, informó WSJ. King añadió que Hassabis sigue comprometido con una IA responsable y planea continuar involucrado.

Google adquirió DeepMind en 2014 y permitió que la organización operara de manera semiautónoma. Según el informe, esta reestructuración busca integrar más estrechamente DeepMind con el resto de Google.

DeepMind ha sufrido la salida de numerosos talentos destacados en los últimos meses, mientras sus modelos de IA insignia quedaron rezagados frente a competidores como OpenAI y Anthropic en capacidades clave.

La ola de salidas incluye a Jeff Dean, veterano ejecutivo de Google, quien se marchó a principios de este mes junto con tres investigadores sénior para lanzar una startup. Su salida se produce después de las sonadas salidas de los destacados investigadores Noam Shazeer a OpenAI y John Jumper a Anthropic a principios de este verano.

Alphabet (GOOG) cayó un 1,23% el miércoles y cerró en $339.10.