El CEO de Anthropic, Dario Amodei publicó una entrada en redes sociales en respuesta a las críticas sobre las prácticas de seguridad de la IA de la empresa, argumentando que su estrategia para competir en la frontera tecnológica se diseñó deliberadamente para dar prioridad a la seguridad.
La entrada fue una respuesta al director de Estrategia de Encode AI, Nathan Calvin, quien cuestionó si las acciones de Anthropic durante el último año eran coherentes con su compromiso con la seguridad de la IA.
En una publicación del martes en X, Calvin enumeró varias decisiones de la empresa —incluidos grandes acuerdos de capacidad de cómputo, el uso de una cantidad significativa de capacidad de cómputo en I+D interna para acelerar el desarrollo y el envío al Congreso de un proyecto de ley que se adelantaría a partes fundamentales de las leyes estatales de seguridad de la IA— como prueba de que la empresa se centraba principalmente en ganar la carrera de la IA de frontera, en lugar de en la seguridad.
Amodei sí reconoció algunos de los puntos de Calvin, específicamente los errores de Anthropic en materia de comunicación. Sin embargo, el CEO de Anthropic rechazó la caracterización general del historial de la empresa.
«Nuestra estrategia siempre ha sido lo que he llamado la “carrera hacia la cima”: al mostrar que es posible desarrollar la tecnología de forma responsable, podemos elevar el nivel de toda la industria», escribió Amodei. «Al considerar esa estrategia en su conjunto, estoy orgulloso de nuestro historial y la respaldo plenamente».
Beneficios de seguridad costosos desde el punto de vista comercial
En su publicación en X, Amodei enumeró nueve medidas que Anthropic adoptó durante el último año y que fueron «costosas desde el punto de vista comercial», pero que aun así se llevaron a cabo por sus beneficios para la seguridad.
Entre ellas se incluye el apoyo de Anthropic a la SB 53 de California —que obligaba a los grandes laboratorios de IA a publicar y mantener marcos de seguridad— cuando hacerlo era «políticamente peligroso», así como mantener salvaguardas biológicas muy estrictas en sus modelos pese a sus posibles efectos positivos en el campo biomédico. Esta decisión se tomó para bloquear posibles intentos de utilizar la IA para crear armas biológicas.
La empresa también retrasó la disponibilidad general de los modelos de clase Mythos para establecer salvaguardas cibernéticas más sólidas. Otros puntos de la lista incluyen la defensa pública de la autoridad gubernamental para bloquear el lanzamiento de modelos y el apoyo continuado a los controles de exportación a China de chips y equipos para fabricarlos.
Este intercambio entre las dos figuras del ámbito de la IA tuvo lugar mientras el debate en torno a la seguridad y la desalineación de la IA sigue intensificándose, con una creciente preocupación de que la IA avanzada pueda algún día superar el control humano.
«Para ser justos, hay preguntas importantes que merece la pena afrontar (y que estamos afrontando) sobre qué hacer cuando la aceleración impulsada por la IA avance tan rápido que resulte difícil que la seguridad se mantenga al día», añadió Amodei. «Nos estamos acercando a ese punto, y eso es lo que impulsa parte de nuestro análisis sobre el “ritmo”».