El contralor de la ciudad de Nueva York, Mark Levine, insta a Anthropic a reconsiderar su salida a bolsa prevista para el próximo mes y advierte que cotizar en bolsa podría distraer a la empresa de IA de su trabajo en materia de seguridad, mientras aumentan las preocupaciones sobre los riesgos relacionados con la IA.
Levine dijo el jueves a Squawk Box de CNBC que una salida a bolsa requeriría tiempo y podría presionar a Anthropic para tomar decisiones que entren en conflicto con sus prioridades de seguridad.
"Sin duda, esto los distraerá de su trabajo en materia de seguridad", dijo Levine el jueves en CNBC. "Una vez que coticen en bolsa, tendrán nuevas presiones para aumentar el crecimiento y los beneficios que entrarán en conflicto con el trabajo de seguridad, y tenemos intereses en juego en esto a través de los fondos de pensiones de la ciudad de Nueva York porque seguimos índices de referencia."
El miércoles, Levine envió una carta al director ejecutivo de Anthropic, Dario Amodei, en la que instó a la empresa a pausar sus planes de salir a bolsa el próximo mes, ante el aumento de las preocupaciones sobre la seguridad y la creciente división entre algunos líderes de la industria de la IA y la administración Trump sobre cómo debería desarrollarse esta tecnología.
Un investigador que anteriormente trabajó tanto en Anthropic como en su rival OpenAI acusó públicamente a ambas empresas de avanzar demasiado rápido y poner en riesgo a la humanidad. Desde entonces, los directores ejecutivos de ambas compañías han respaldado los llamamientos a establecer salvaguardas y han afirmado que es esencial avanzar más lentamente en el desarrollo.
Mientras tanto, la administración Trump ha seguido una estrategia diferente en su competencia por adelantarse a China. A principios de este mes, Trump rebautizó la IA como "superinteligencia" y creó un grupo de trabajo encargado de coordinar la relación del Gobierno federal en materia de IA con los consumidores, los grupos de interés público, las organizaciones religiosas, los proveedores de infraestructura crítica y las empresas de IA.
Durante el último mes, líderes de la IA se han reunido con Trump y firmaron un acuerdo voluntario que incluye asociarse con un auditor externo y establecer controles internos. Sin embargo, Levine afirmó que esas medidas se quedaron cortas y no bastan para "estar a la altura del momento".
"Ante estas preocupaciones, Anthropic debería revelar con precisión cómo implementará auditorías y controles adecuados, el alcance de los asuntos que estos controles pretenden abordar, así como un calendario previsto", afirmó Levine. "Esto también debería incluir una explicación de si estos controles abordarán suficientemente, y de qué manera, su petición de ralentizar el ritmo al que avanzan las capacidades de los modelos de IA."
Anthropic no respondió de inmediato a una solicitud de comentarios.
En su función de contralor, Levine también actúa como asesor de inversiones de los fondos de pensiones de la ciudad, uno de los mayores de EE. UU., con 325.000 millones de dólares en activos, según la carta que envió a Anthropic.
"Como futuros … inversores, esto nos importa y creemos que deberíamos ralentizarlo hasta que tengan un mejor control de la seguridad", dijo Levine.