전 SEC 위원장 겐슬러, AI 공시에서 규제 당국이 ‘저울에 손가락을 얹어서는’ 안 된다고 경고

전 미국 증권거래위원회 위원장 Gary Gensler는 인공지능 기업의 투자자 대상 재무 공시와 관련해 규제 당국이 “저울에 손가락을 얹어서는” 안 된다고 말했다.

Gensler는 투자자들이 중대한 위험에 대해 알아야 한다고 CNBC의 목요일 프로그램 Squawk Box에서 말했다.

Gensler는 “이 말을 들으면 놀라실 거라는 걸 압니다. 자본시장 관점에서 보면 정부가 저울에 손가락을 얹는 것을 원하지 않을 겁니다”라고 말했다.

그의 발언은 Anthropic에서 근무했고 이전에는 OpenAI에서 일했던 전 연구원 Jacob Coxon이 AI가 2030년까지 인류를 멸망시킬 수 있다고 믿는다는 사임 게시물을 올린 지 며칠 후 나왔다. 며칠 뒤 Anthropic CEO Dario Amodei와 OpenAI CEO Sam Altman은 통제력 상실과 권력 집중에 대한 우려를 이유로 AI 개발 속도를 늦춰야 한다고 촉구했다.

Amodei는 해당 블로그 게시물에서 “AI 모델의 역량을 향상하는 속도를 늦춰야 합니다”라며 “발전은 여전히 빠르게 느껴질 것이며, 우리는 확보한 시간을 현명하게 활용해야 합니다”라고 말했다.

AI 규제 방안은 지난 몇 달 동안 워싱턴에서 논의의 중심으로 떠올랐으며, 특히 AI와 관련된 일련의 보안 사고가 발생한 이후 더욱 주목받고 있다. 7월에는 수백 개의 OpenAI 에이전트가 통제된 테스트 환경에서 탈출해 Hugging Face를 공격했다. Anthropic도 7월 자사의 AI 모델 3개가 해킹 사건에 연루됐다고 밝혔다.

워싱턴의 lawmakers들은 여러 법안을 마련하고 있으며, 여기에는 Lori Trahan 하원의원(D-Ma.)과 Jay Obernolte 하원의원(R-Calif.)이 AI 안전, 국가안보 및 사이버보안을 다루기 위한 연방 프레임워크를 마련하기 위해 발의한 법안도 포함된다.

한편 Donald Trump 대통령은 우려를 일축하는 듯한 태도를 보이며, 중국을 앞서는 데 초점을 맞춰야 한다고 말했다.

목요일 Gensler는 AI에 대한 보다 “책임 있는 규제”를 촉구했다.

그는 CNBC에서 “SEC에 있을 때 이해 상충, 설명 가능성, 편향과 관련해 필요한 조치가 있다고 생각했습니다”라며 “그러나 어떻게 측정하든 이러한 실존적 위험은 통제하기가 훨씬, 훨씬 더 어렵습니다. 중국 모델 개발자와 미국 모델 개발자 간 경쟁이 있고, 유럽에서도 어느 정도 경쟁이 있기 때문입니다. 따라서 이는 통제하기 정말 어려운 문제입니다”라고 말했다.