최근 주요 AI 연구소 Anthropic과 OpenAI가 내부 테스트 중에도 자사 모델이 실제 공격을 성공적으로 수행하는 것을 확인했다는 보도가 나온 가운데, 사이버 공격에서 인공지능의 활용이 증가하고 있다. 방어 업무를 담당하는 보안 전문가들은 AI의 지원을 받는 사이버 공격자들의 역량이 사이버보안 전문가들의 역량을 앞서고 있다는 우려를 오래전부터 제기해 왔다.
이번 주 세계 최대 금융기관 일부에서 조직적인 공격이 잇따르면서 이러한 우려가 뚜렷하게 부각됐다. 블룸버그의 수요일자 보고서에 따르면 해커들은 Two Sigma Investments, Citadel, Point72 Asset Management와 여러 사모펀드 회사를 겨냥했다. 이들 회사의 직원들은 각각 자사에서 알고 지내던 동료를 사칭한 음성 피싱(“비싱”) 전화를 받았으며, 전화 발신자는 로그인 자격 증명이나 2단계 인증 코드를 제공해 달라고 요청했다. 통화 속 목소리는 실제로 동료의 AI 복제 음성이었다.
Point72의 보안팀은 공격이 진행 중임을 식별했으며, 초기 보고에 따르면 고객 정보는 침해되지 않았다. Two Sigma 역시 성공적인 침해가 발생하지 않았다고 밝혔다. 세 번째 주요 표적이었던 Citadel은 아직 공식 입장을 내놓지 않았다.
범인은 여전히 알려지지 않았다
블룸버그에 따르면 공격 시도가 있은 후 금융산업규제청(FINRA)은 회원사들에 연락해 경계를 늦추지 말고 사고 보고서를 수집하라고 권고했다. FINRA는 이러한 위협이 향후 더욱 일반화될 것으로 예상하고, 금융 부문 전반의 사이버보안팀 간 협력을 촉진하기 위해 사이버 인텔리전스 위협용 보안 신고 포털을 출시했다. 이번에 발생한 공격 물결은 이러한 공조가 필요하다는 점을 다시 한번 입증했다.
공격의 배후는 아직 확인되지 않았지만, 수법 자체는 이미 잘 알려져 있다. 로이터는 이 같은 발신번호 및 신원 위조 전화가 2021년 이후 100곳이 넘는 기업 및 정부 기관을 성공적으로 침해한 해킹 집단 Scattered Spider에 의해 사용됐다고 전했다. 이 집단이 최근 잇따른 공격과 어떤 연관이 있는지는 아직 밝혀지지 않았다.
Google의 Threat Intelligence Group이 발표한 분석에 따르면 Silent Ransom Group이 벌인 유사한 비싱 공격 물결은 올해 상반기 내내 미국의 법률회사와 금융 서비스 기업을 강타했다. 일부 정교한 사례에서는 IT 기술자로 위장한 인물들이 공격의 일환으로 회사 건물에 물리적으로 접근하기도 했다.
이번 가장 최근의 침해 시도 역시 고객 기록, 비공개 포지션 또는 독점적 트레이딩 전략을 탈취한 뒤 이를 빌미로 몸값을 요구하려는 목적이었을 가능성이 있다.
AI로 사이버 공격의 대규모 실행 비용과 진입 장벽이 낮아지고 있다
과거 대규모 비싱 공격에는 사람으로 구성된 운영팀이 필요했으며, 각 운영자가 한 번에 한 통씩 전화를 걸어 하루에 현실적으로 시도할 수 있는 횟수에 상한이 있었다. 따라서 이러한 수법을 사용하는 범죄 조직은 대체로 상당히 큰 규모로 운영됐다. 이른바 “사기 복합단지”는 미얀마와 캄보디아에서 수만 명의 운영자를 고용하며 작은 마을에 맞먹는 규모로 성장할 수 있다.
그러나 AI 도구의 확산으로 이러한 제약과 운영 비용은 이제 점점 무의미해지고 있다. 소프트웨어 테스트 기업 Antithesis의 CEO이자 공동 창업자인 Will Wilson은 블룸버그에 AI 모델이 각 시도의 비용과 시간 투입을 낮춰 “대규모로 공격을 실행할 수 있게 했다”고 말했다. 충분히 강력한 AI 에이전트와 하드웨어가 있다면, 이론적으로는 한 사람이 과거 수백 명의 숙련된 인력이 협력해야 가능했던 공격을 실행할 수 있다.
침해에 성공하려면 단 한 명의 직원이 경계를 늦추고 공격자를 도우면 된다. 공격자가 이처럼 대규모로 활동할 수 있다면 이런 일이 발생할 가능성은 크게 높아진다.