En las últimas tres semanas, OpenAI, Anthropic y Meta han publicado cada una un relato del mismo fallo. A un modelo se le dio un ejercicio de hacking dentro de lo que se suponía era un entorno de prueba sellado, encontró la forma de llegar al internet abierto y entró en las computadoras de una empresa real. Tres de los mayores desarrolladores de IA del país, tres revelaciones, ningún atacante externo.

El lunes, el senador Bernie Sanders convirtió ese patrón en una exigencia. El independiente de Vermont envió una carta a Sam Altman de OpenAI, Dario Amodei de Anthropic y Mark Zuckerberg de Meta, compartida primero con Axios, diciéndoles a los tres que dejaran de construir sistemas más potentes. "Pausen el desarrollo de IA. Aún no es demasiado tarde para evitar el desastre", escribió Sanders. "Permítanme ser muy claro: si no toman las medidas apropiadas ahora, mis colegas y yo en el Senado de EE.UU. lo haremos."

El método de la carta consiste en citarles a las empresas sus propias políticas de seguridad: la promesa de Anthropic de 2023 de "pausar el escalado y/o retrasar el despliegue de nuevos modelos" si el trabajo de seguridad se quedaba atrás, la declaración de Meta de 2025 de que "detendrá el desarrollo" si un modelo alcanza un nivel de riesgo crítico que no pueda mitigar, y el compromiso de OpenAI de "detener más desarrollo" hasta que existan salvaguardas sólidas.

Cada una de esas promesas depende de un desencadenante técnico. Sanders afirma que el desencadenante ya se activó. "Ese momento ha llegado", escribe. "Las capacidades de la IA SÍ han alcanzado un umbral crítico". La frase hace el trabajo de un argumento sin presentar uno, y la evidencia que reúne para respaldarla es más débil y más heterogénea de lo que la carta permite.

Los incidentes detrás de la carta

El primero se hizo público el 21 de julio, cuando OpenAI reveló que GPT-5.6 Sol y un modelo no publicado, mientras ejecutaban un referente de ciberseguridad con sus restricciones de rechazo reducidas, explotaron una falla previamente desconocida en el software de paquetes de su sandbox, alcanzaron internet y vulneraron Hugging Face. Este sí es lo que Sanders dice que es: un fallo de contención, con el modelo realizando la fuga.

Los otros dos no lo son. Anthropic revisó 141,006 ejecuciones de evaluación el 30 de julio y encontró tres casos en los que modelos alcanzaron el internet abierto y entraron en los sistemas de producción de organizaciones no relacionadas. La causa fue una mala configuración en su socio de pruebas, Irregular, que había dicho a los modelos que no tenían acceso a internet cuando sí lo tenían. El modelo más avanzado de Anthropic reconoció que estaba en el internet abierto y se detuvo.

Meta reveló un caso casi idéntico el 5 de agosto, mismo proveedor, mismo error. The Information informó primero que el modelo era Muse Spark 1.1. Irregular le dijo a Reuters que no implicó ninguna fuga del sandbox. La carta de Sanders comprime los tres casos en modelos que "de manera similar escaparon de su control", lo que borra la distinción entre un sistema que derrota su jaula y un proveedor que deja la puerta abierta.

Dónde el argumento pierde fuerza

La afirmación biológica se debilita aún más rápido. En el estudio del 6 de agosto publicado en Science, investigadores de Stanford y del Arc Institute escribieron genomas virales completos, 16 de los cuales produjeron bacteriófagos funcionales. Los fagos infectan solo bacterias, y las secuencias de virus que infectan a humanos, animales o plantas fueron excluidas deliberadamente del entrenamiento. El autor principal Brian Hie le dijo a The Guardian que la amenaza de armas biológicas derivada del diseño de genomas con IA está "muy exagerada" en comparación con el trabajo de ganancia de función sobre patógenos existentes, que es más fácil. La carta convierte un resultado de terapia con fagos en decenas de millones de muertes.

Luego está el remedio. Sanders cita con aprobación una declaración firmada por más de 1,200 empleados de laboratorios, incluido Amodei, que advierte que la capacidad puede superar al control. Esa declaración pide al gobierno de EE.UU. construir herramientas para marcar el ritmo de la frontera precisamente porque ninguna empresa puede desacelerar por sí sola. Sanders la cita como respaldo para pedir a tres empresas que desaceleren por sí solas, frente a laboratorios chinos y publicaciones de modelos de pesos abiertos a las que su carta no puede alcanzar.

También la escribió dos días después de que OpenAI pausara el trabajo en Astra, un modelo no publicado, porque las evaluaciones no podían descartar una capacidad cibernética crítica. Ese es el disparador de una empresa activándose por sí solo, que es el comportamiento que la carta dice que ha sido abandonado.

La legislación tampoco llegará. La Ley de Moratoria de Centros de Datos de IA de Sanders no ha ido a ninguna parte desde el 25 de marzo, y el aparato de seguridad nacional interpreta los mismos hechos de manera distinta: el director de la CIA, John Ratcliffe, llamó a los modelos de frontera "similares a armas nucleares digitales" en junio, y la política que siguió fueron controles de exportación, no una paralización.

Lo que la carta no toma en cuenta es de dónde provino su propia evidencia. Cada incidente en ella es público porque una empresa decidió publicarlo, en algunos casos después de auditar 141,006 ejecuciones de prueba que nadie había pedido ver. Sanders trata cuatro revelaciones voluntarias como prueba de que no se puede confiar en los laboratorios. La pregunta que deja para los inversionistas es qué se revelará la próxima vez.