La mayor historia de seguridad de la IA del verano hasta ahora ha sido contada casi por completo por la empresa en el centro de ella. Desde el 21 de julio, OpenAI ha publicado una serie de actualizaciones que describen cómo varios de sus propios modelos escaparon de un entorno interno de pruebas y hackearon Hugging Face, la plataforma donde se almacena gran parte de la IA de código abierto del mundo. El agente pasó más de cuatro días suelto en internet y fue tras una segunda empresa de IA, según informó primero Politico. El lunes, 31 miembros del Congreso le dijeron a Sam Altman que la propia versión de OpenAI no es suficiente.
Su carta al director ejecutivo de OpenAI contiene 23 preguntas numeradas con fecha límite del 24 de agosto. La corresponsal de Reuters Courtney Rozen informó sobre las cartas enviadas a OpenAI y a Anthropic, y la oficina del representante Greg Casar publicó ambas el mismo día. Casar, que preside el Caucus Progresista del Congreso, encabezó el esfuerzo junto con la representante Doris Matsui, la demócrata de mayor rango en el subcomité de la Cámara que supervisa comunicaciones y tecnología.
La carta no tiene poder de citación. Lo que sí tiene es una fecha y una lista de cosas que OpenAI no ha dicho.
El cambio de la divulgación a la evidencia
El giro de la carta es una cláusula sobre evidencia más que sobre peligro. OpenAI ha divulgado algo de información, escriben los legisladores, pero la empresa "aún no ha publicado los registros pertinentes".
Esa es una solicitud más limitada de lo que parece, y más difícil. Todo lo que el público sabe sobre el incidente es un resumen que OpenAI redactó y eligió publicar. Los registros son el registro subyacente de la máquina: entradas con marca de tiempo que muestran qué hizo el modelo, en qué orden y qué registraron los sistemas de monitoreo de la empresa mientras lo hacía. Hasta ahora, los desarrolladores de IA de frontera han informado sus propios fallos de seguridad en prosa y se les ha tomado la palabra. La carta pide la materia prima para que alguien fuera de la empresa pueda contrastar con ella la prosa.
Lo que ya consta en el registro
Hugging Face reveló la intrusión el 16 de julio y dijo que sospechaba de un agente autónomo de IA. Cinco días después, OpenAI confirmó que el intruso eran sus propios modelos: GPT-5.6 Sol y un modelo inédito más capaz, ambos ejecutándose con su negativa habitual a ayudar con ciberataques deliberadamente reducida para la prueba. Encargados de resolver un benchmark de ciberseguridad, los modelos en cambio fueron a buscar la clave de respuestas, explotaron una falla previamente desconocida en la propia infraestructura de OpenAI para llegar al internet abierto y usaron credenciales robadas para ejecutar código en los servidores de producción de Hugging Face.
El panorama siguió ampliándose. OpenAI dijo el 4 de agosto que el AI Security Institute del Reino Unido y el evaluador externo Irregular habían encontrado por separado casos de sus modelos realizando acciones no autorizadas, incluido acceder a internet después de que se les dijera que no tenían acceso.
Las preguntas más incisivas se refieren a lo que OpenAI estaba vigilando. Reuters informó a fines de julio que un agente dejó notas dentro de la infraestructura de OpenAI describiendo cómo los agentes podían liberarse de las restricciones internas de la empresa, y que los sistemas de monitoreo habían sido desconectados durante pruebas anteriores. Reuters no pudo establecer si alguno de los dos estaba vinculado al agente de Hugging Face, y OpenAI dijo que el informe contenía inexactitudes sin identificarlas. Los legisladores quieren que se describa cada caso de ese tipo, además de un recuento bruto de cuántas veces en el último año un modelo implementado internamente cruzó un límite autorizado, y cuántas de esas veces se informó a alguien siquiera.
Los límites de una carta
Nada de esto obliga a una respuesta. Los demócratas no controlan a los presidentes de comité que programan audiencias, así que la solicitud por separado de Casar de que el presidente de la Cámara Mike Johnson convoque a Altman y a Dario Amodei de Anthropic para testificar depende por completo de que los republicanos estén de acuerdo. El presidente Donald Trump dijo el 7 de agosto, según Reuters, que los legisladores quieren regular a la industria de la IA hasta sacarla del negocio.
El Congreso no es el único punto de presión. Un grupo de 15 fiscales generales estatales republicanos pidieron a OpenAI el 3 de agosto que preservara cada registro relacionado con la intrusión, y el senador Bernie Sanders escribió a Altman, Amodei y Mark Zuckerberg el mismo día en que se enviaron las cartas de la Cámara.
Para cualquiera con exposición a la operación de IA, la señal estará en lo que OpenAI haga antes del 24 de agosto. Altman ya ha dicho públicamente que la industria quizá tenga que "moderar el ritmo del desarrollo de la IA". Negarse a publicar los registros mostraría si eso era una postura o una frase.