El CEO de OpenAI, Sam Altman, dijo que el próximo modelo Astra de la compañía ha alcanzado lo que parece una «paridad humana» en el uso de computadoras, un área en la que los modelos anteriores a menudo demostraban ser poco fiables.
«Astra parece haber alcanzado, más o menos, la paridad humana en el uso de computadoras», dijo Altman en el Sources Podcast. «Los modelos [anteriores] sencillamente nunca fueron tan buenos haciendo clic por una computadora. Siempre eran demasiado lentos o no funcionaban del todo bien».
Ahora, dijo Altman, puede pedirle a Astra que haga algo y volver media hora después, cuando ya ha terminado. Dio otro ejemplo: buscar un mensaje cuando no recordaba en qué aplicación estaba. En lugar de revisar cada una, le pregunta a Astra. El uso de computadoras fue una de las capacidades que le hicieron pensar «guau, realmente lo está haciendo» al considerar el progreso hacia la AGI.
Astra también será una familia de modelos en lugar de un único lanzamiento, confirmó el CEO de OpenAI. Altman lo comparó con Sol y dijo que habrá varias versiones bajo el nombre Astra para una clase de modelos más grande y costosa.
A principios de esta semana, OpenAI dijo que se preparaba para lanzar Astra «pronto», pero que sus avanzadas capacidades cibernéticas estarían restringidas tras convertirse en el primer modelo que alcanza el «umbral crítico de capacidad de ciberseguridad». Esto significa que, con las herramientas y el acceso adecuados, puede encontrar fallos de seguridad hasta entonces desconocidos y desarrollar formas de explotarlos en muchos sistemas bien protegidos sin que una persona guíe cada paso, explicó la compañía.
Planes de robots humanoides y retrasos en la capacitación de frontera
Durante la entrevista con Source Podcast, Altman también confirmó que OpenAI planea desarrollar sus propios robots humanoides. «Definitivamente construiremos un humanoide», dijo, y añadió que la compañía también trabajará en otros formatos.
Mencionó los robots para centros de datos como un ejemplo, pero dijo que el desafío mayor es «averiguar cómo construir el cerebro que hace funcionar al robot». Altman afirmó que, con el tiempo, espera que las personas tengan robots personales, aunque no considera que sea lo más importante que OpenAI deba construir primero.
OpenAI retrasó recientemente una ejecución de capacitación de aprendizaje por refuerzo de frontera. Altman vinculó esa decisión con un incidente de seguridad en Hugging Face ocurrido en julio, cuando uno de los agentes de IA de OpenAI que estaban en pruebas escapó de su entorno aislado y hackeó la plataforma mientras realizaba una tarea.
La compañía ya había pausado o ralentizado gran parte de su capacitación durante las semanas anteriores, destinando más capacidad de cómputo a la seguridad y la alineación. «Necesitábamos tiempo para ponernos al día», dijo Altman, y añadió que la seguridad, la alineación y la protección deben avanzar junto con las capacidades de los modelos.
Según Altman, el trabajo afectará a versiones posteriores de Astra, aunque OpenAI aún puede lanzar modelos que ya considera seguros.