El CEO de OpenAI, Sam Altman, pidió a las principales empresas tecnológicas de IA que ralenticen deliberadamente el ritmo de desarrollo para que las medidas de seguridad y supervisión puedan ponerse al día.
En una serie de publicaciones en X, Altman afirmó el domingo que el mundo merece tener la certeza de que los desarrolladores de IA en EE. UU. están actuando de forma responsable, dado el ritmo acelerado del desarrollo este año.
«Todos los laboratorios de frontera deben cumplir con esto, y no hay razón para que ninguno de nosotros venga a trabajar si no podemos hacerlo», afirmó Altman.
Los últimos comentarios de Altman siguen y coinciden con la propuesta del CEO de Anthropic, Dario Amodei de ralentizar el ritmo del desarrollo de la IA. Demis Hassabis, de Google DeepMind, y Elon Musk, de SpaceXAI, también expresaron su apoyo a esta dirección.
Escenarios «muy malos»
Dos acontecimientos recientes despertaron grandes preocupaciones en torno al desarrollo de la IA, especialmente sobre la mejora recursiva de sí mismos en los modelos de IA, que podría permitirles actuar más allá del control humano.
Uno fue el incidente en el que agentes de OpenAI escaparon de un entorno de pruebas y hackearon la infraestructura de Hugging Face para alcanzar su objetivo. El otro fue el anuncio de renuncia del investigador de preentrenamiento de Anthropic Jacob Coxon la semana pasada, en el que advirtió que la superinteligencia en la IA podría provocar la desaparición de la humanidad para 2030.
El propio Altman enumeró dos formas en las que el progreso de la IA podría salir «muy mal» y que deben evitarse.
«Primero, podríamos perder el control del futuro frente a la IA», escribió Altman. «Esto es inaceptable; estamos sin disculpas del lado de la humanidad, y la IA debe estar siempre al servicio de las personas».
Para garantizarlo, Altman afirmó que las técnicas de alineación y seguridad deben superar en velocidad a las capacidades de los modelos. El segundo peligro, según Altman, es un mundo con demasiada concentración de poder: que una persona u organización controle algo extremadamente poderoso para imponer su visión del mundo a la humanidad podría convertirlo en una distopía.
Marco de riesgos
El CEO de OpenAI afirmó que da la bienvenida a un marco federal para la seguridad de la IA, pero señaló que las empresas deberían trabajar de forma preventiva para empezar a generar confianza en el público.
«En OpenAI ahora formulamos de antemano casos de seguridad para las ejecuciones de aprendizaje por refuerzo de frontera que esperamos que aumenten significativamente las capacidades», escribió Altman. «Esperamos que otras empresas aprendan de nuestros enfoques y propongan los suyos; creemos que los estándares compartidos para la desalineación, la supervisión y la seguridad conducirán a mejores resultados».
Altman añadió que «acompasar» el desarrollo de la IA no significa «detener» el progreso, sino que las empresas deberían adoptar un enfoque más lento para priorizar la seguridad y la supervisión.
«Acompasar el desarrollo valdrá la pena pese a este costo; ninguna presión competitiva estadounidense debería justificar la imprudencia ni permitir que las capacidades se adelanten a la alineación y la supervisión», declaró Altman.