El uso de inteligencia artificial en ciberataques va en aumento, en medio de informes recientes de que los principales laboratorios de IA Anthropic y OpenAI han visto cómo sus modelos ejecutaban ataques reales con éxito incluso durante pruebas internas. Los equipos de defensa llevan tiempo expresando su preocupación por que las capacidades de los ciberdelincuentes asistidos por IA estén superando las capacidades de los profesionales de la ciberseguridad.
Estos temores quedaron claramente de manifiesto esta semana, tras una serie coordinada de ataques contra algunas de las mayores instituciones financieras del mundo. Un informe del miércoles de Bloomberg detalló cómo los hackers atacaron a Two Sigma Investments, Citadel, Point72 Asset Management y varias firmas de capital privado. Los empleados de cada una de estas empresas recibieron llamadas de phishing por voz («vishing»), aparentemente de compañeros conocidos de su firma, en las que se les pedía que proporcionaran credenciales de acceso o códigos de autenticación de dos factores. En realidad, las voces de las llamadas eran clones de IA de sus compañeros de trabajo.
El equipo de seguridad de Point72 logró identificar el ataque mientras estaba en curso, y los informes iniciales sugieren que no se comprometió información de clientes. Two Sigma también informó que no se produjeron brechas exitosas. El tercer gran objetivo, Citadel, aún no ha emitido un comunicado público.
El culpable sigue sin conocerse
Tras los intentos de intrusión, la Financial Industry Regulatory Authority (FINRA) se puso en contacto con sus firmas miembro para aconsejarles que mantuvieran la vigilancia y recopilaran informes de incidentes, según Bloomberg. Anticipando que estas amenazas serían más habituales en el futuro, FINRA lanzó un portal seguro para informar sobre amenazas de inteligencia cibernética, con el objetivo de facilitar la cooperación entre los equipos de ciberseguridad de todo el sector financiero. Esta reciente oleada de ataques valida aún más la necesidad de dicha coordinación.
El responsable de estos ataques todavía no ha sido identificado; sin embargo, el modus operandi está ampliamente documentado. Reuters señaló que el grupo Scattered Spider, un colectivo de hackers que ha vulnerado con éxito más de 100 objetivos corporativos y gubernamentales desde 2021, ha utilizado este tipo de llamadas telefónicas suplantadas. No se ha establecido si este grupo tiene alguna relación con la reciente serie de ataques.
Una oleada similar de ataques de vishing perpetrados por Silent Ransom Group afectó a firmas jurídicas y empresas de servicios financieros de Estados Unidos durante la primera mitad de este año, según un análisis publicado por el Threat Intelligence Group de Google. En algunos casos sofisticados, individuos que se hacían pasar por técnicos informáticos incluso obtuvieron acceso físico a los edificios de las empresas como parte del ataque.
Es posible que esta oleada más reciente de intentos de intrusión tuviera un objetivo similar: comprometer registros de clientes, posiciones privadas o estrategias de negociación propias, y después retenerlos para exigir un rescate.
La IA está haciendo que los ciberataques sean más baratos y fáciles de ejecutar a gran escala
Los ataques de vishing a gran escala requerían anteriormente un equipo de operadores humanos, cada uno realizando una llamada a la vez, lo que establecía un límite estricto sobre el número de intentos que podían efectuar razonablemente cada día. Por ello, las organizaciones delictivas que empleaban estas tácticas solían operar a una escala considerable; los llamados «complejos de estafas» de Myanmar y Camboya emplean a decenas de miles de operadores y pueden alcanzar el tamaño de una pequeña ciudad.
Estas limitaciones y costes generales están volviéndose cada vez más irrelevantes con el auge de las herramientas de IA. Will Wilson, CEO y cofundador de la empresa de pruebas de software Antithesis, declaró a Bloomberg que los modelos de IA han «hecho posible ejecutar ataques a gran escala» al reducir el coste y la inversión de tiempo de cada intento. Con agentes de IA y hardware suficientemente potentes, una sola persona podría lanzar teóricamente un ataque que antes habría requerido a cientos de individuos capacitados trabajando conjuntamente.
Para que una intrusión tenga éxito basta con que un empleado baje la guardia y ayude al atacante. Cuando los atacantes pueden operar a semejante escala, las probabilidades de que esto ocurra aumentan significativamente.