El senador Richard Blumenthal exige respuestas al director ejecutivo de OpenAI, Sam Altman, después de que los modelos de IA de la compañía mostraran un comportamiento fuera de control y en medio de informes de que OpenAI restringió una auditoría independiente de un hackeo reciente impulsado por IA.
El miércoles, el demócrata de Connecticut dijo estar «seriamente alarmado» porque, supuestamente, OpenAI intentó eludir las salvaguardas y la monitorización. Blumenthal también expresó su preocupación tras un informe de The New York Times que concluyó que OpenAI limitó a las organizaciones de auditoría independientes METR y Robinhood al no mostrarles la magnitud total de la situación.
«Ante un fracaso tan estrepitoso, OpenAI parece estar tomando medidas que priorizan el rendimiento y los beneficios de sus modelos de IA, sabiendo que esos cambios podrían ser perjudiciales para la seguridad pública», dijo Blumenthal en la carta.
Durante el verano, la plataforma de IA Hugging Face dijo que había sido hackeada. Unos días después, OpenAI confirmó que sus modelos hackearon la plataforma cuando debían encontrarse en un entorno controlado.
OpenAI ha dicho que planea ralentizar el ritmo de desarrollo de modelos mientras refuerza las medidas de seguridad tras el hackeo de Hugging Face. Altman no ha hablado públicamente del hackeo en profundidad.
Blumenthal también está preocupado por el modelo más reciente de OpenAI, GPT-6 Astra.
«A pesar de este fracaso sin precedentes de las salvaguardas y la contención de sus agentes de IA, cuando OpenAI lanzó GPT-6 Astra el 3 de septiembre, reveló que este nuevo modelo, más potente, era “menos monitorizable” y mostraba indicios de que ocultaba su proceso de razonamiento interno cuando sabía que estaba siendo monitorizado», dijo.
Blumenthal pidió a Altman que respondiera a varias preguntas sobre el acceso que se concedió a los auditores y sobre los planes de OpenAI para evaluar si se necesitan cambios técnicos en Astra. Las respuestas deben entregarse antes del 24 de septiembre.