El director ejecutivo de OpenAI, Sam Altman, dijo el miércoles al Consejo de Seguridad de la ONU que su empresa ya ha ralentizado su trabajo en IA y volvería a hacerlo si no puede mantener sus sistemas bajo el control de los humanos que los operan.
«Hemos ralentizado unilateralmente nuestra actividad en el pasado. Lo volveremos a hacer en el futuro», dijo Altman. «Ganar a otras empresas en una carrera competitiva no es motivo para tomar decisiones precipitadas».
Sin embargo, nunca explicó con exactitud cuándo ni cómo se produjeron esas ralentizaciones.
Altman dijo que sus preocupaciones no han hecho más que aumentar a medida que la IA asume un papel cada vez mayor en la creación de sus propias versiones futuras. Si el progreso se acelera demasiado, las personas responsables podrían tener dificultades para entender lo que están haciendo o cómo intervenir si algo sale mal.
«Podríamos perder el control del futuro a manos de la IA», advirtió.
Altman señaló que otro riesgo es que los sistemas de IA más avanzados otorguen demasiada influencia a un pequeño número de empresas o países. Para contrarrestarlo, pidió estándares compartidos que puedan utilizarse para probar sistemas avanzados, comprobar si las medidas de seguridad funcionan e informar de incidentes graves.
El director ejecutivo de Anthropic, Dario Amodei, también se dirigió al Consejo y asumió un compromiso similar.
«Ralentizaremos nuestra actividad tanto como sea necesario para asegurarnos de que cada tecnología de IA sucesiva que lancemos sea realmente segura», afirmó.
Amodei también instó a los países a alcanzar un acuerdo sobre estándares universales para las pruebas de seguridad y sobre formas de alertarse mutuamente acerca de incidentes relacionados con la IA, especialmente los que impliquen vulneraciones de la seguridad nacional.
«Ningún líder, ninguna empresa ni ninguna nación puede gestionar esto por sí sola», afirmó.