El CEO de OpenAI, Sam Altman, afirmó que el próximo modelo Astra de la compañía ha alcanzado lo que se siente como una «paridad humana» en el uso de computadoras, un área en la que los modelos anteriores a menudo demostraban ser poco fiables.
«Astra parece haber alcanzado una especie de paridad humana en el uso de computadoras», dijo Altman en el Sources Podcast. «Los modelos [anteriores] nunca fueron muy buenos haciendo clic en una computadora. Siempre era demasiado lento o no funcionaba del todo bien».
Ahora, según Altman, puede pedirle a Astra que haga algo y volver media hora después, cuando ya ha terminado. Dio otro ejemplo: buscar un mensaje cuando no recordaba en qué aplicación estaba. En lugar de revisar cada una, le pregunta a Astra. El uso de computadoras fue una de las capacidades que le hicieron pensar «guau, realmente lo está haciendo» al evaluar los avances hacia la AGI.
Astra también será una familia de modelos, en lugar de un único lanzamiento, confirmó el CEO de OpenAI. Altman lo comparó con Sol y dijo que habrá varias versiones bajo el nombre Astra para una clase de modelos más grande y costosa.
A principios de esta semana, OpenAI dijo que se preparaba para lanzar Astra «pronto», pero que sus capacidades cibernéticas avanzadas estarían restringidas después de convertirse en el primer modelo que alcanza el «umbral de capacidad crítica de ciberseguridad». Esto significa que, con las herramientas y el acceso adecuados, puede encontrar fallos de seguridad previamente desconocidos y desarrollar formas de explotarlos en muchos sistemas bien protegidos sin que una persona guíe cada paso, explicó la compañía.
Planes de robots humanoides y retrasos en el entrenamiento de frontera
Durante la entrevista en Sources Podcast, Altman también confirmó que OpenAI planea desarrollar sus propios robots humanoides. «Definitivamente desarrollaremos un robot humanoide», afirmó, y añadió que la compañía también trabajará en otros formatos.
Mencionó como ejemplo los robots para centros de datos, pero dijo que el desafío mayor es «descubrir el cerebro que hace funcionar al robot». Altman afirmó que, con el tiempo, espera que la gente tenga robots personales, aunque no considera que sea lo más importante que OpenAI deba desarrollar primero.
OpenAI retrasó recientemente una ejecución de entrenamiento de aprendizaje por refuerzo de frontera. Altman vinculó esa decisión con un incidente de seguridad en Hugging Face ocurrido en julio, cuando uno de los agentes de IA de OpenAI en fase de prueba escapó de su entorno aislado y hackeó la plataforma mientras realizaba una tarea.
La compañía ya había pausado o ralentizado gran parte de su entrenamiento durante las semanas anteriores, destinando más capacidad de cómputo a la seguridad y la alineación. «Hemos necesitado tiempo para ponernos al día», afirmó Altman, quien añadió que la seguridad, la alineación y la protección deben avanzar al mismo ritmo que las capacidades de los modelos.
Según Altman, este trabajo afectará a versiones posteriores de Astra, aunque OpenAI aún puede lanzar modelos que ya considera seguros.