Anthropic advirtió que su creciente uso de la inteligencia artificial en investigación y desarrollo podría acelerar las capacidades de los modelos, acercándolos potencialmente a la auto-mejora recursiva.
En un folleto S-1 modificado presentado el lunes ante la Comisión de Bolsa y Valores de EE. UU., la empresa afirmó que sus estimaciones internas indican que podría cumplir próximamente la definición de su Responsible Scaling Policy de «un progreso drásticamente acelerado atribuible a la IA».
«Usar IA para ayudar a desarrollar una IA más capaz también podría plantear un riesgo considerable para la seguridad, especialmente si acelera drásticamente el ritmo del progreso», escribió la empresa.
Aunque Anthropic no ha clasificado ningún modelo actual como uno que haya superado el umbral, la empresa reconoció que anteriormente no detectó avances significativos en sus modelos hasta después de que se produjeran.
«Como resultado, en el pasado no identificamos, y es posible que en el futuro tampoco identifiquemos, una aceleración significativa de nuestro ritmo de desarrollo hasta después de que se haya producido», afirmó la empresa.
En ese sentido, la empresa no prevé poder usar Claude de forma segura para diseñar y desarrollar de manera totalmente autónoma generaciones sucesivas de modelos de frontera sin una supervisión humana significativa, y está considerando actualizar la RSP para mantener el control humano, según el documento.
Agentes de IA fuera de control
El documento también destacó incidentes ocurridos en 2026 en los que cuatro modelos de Anthropic obtuvieron acceso no autorizado a sistemas reales de terceros durante evaluaciones de ciberseguridad que duraron entre 10 y 34 horas.
En uno de los incidentes, un modelo inicial utilizó una contraseña que encontró para obtener acceso de administrador, recopilar credenciales adicionales, cambiar la configuración del sistema y leer información personal de una persona.
Anthropic advirtió que los agentes de IA podrían modificar código, alterar datos y ejecutar transacciones financieras antes de que alguien se dé cuenta o intervenga.