Semafor는 OpenAI와 Anthropic이 11월 3일 미국 중간선거 기간에 자사 플랫폼을 감시하고 잠재적 위협에 대응하기 위해 전담 선거 “워룸”을 설치하고 있다고 보도했다고 월요일 전했다.
워룸 개념은 Meta가 선거 관련 허위 정보를 감시하기 위해 내부 팀을 구성한 2018년으로 거슬러 올라간다. 8년이 지난 지금 생성형 모델이 위험을 증폭시키고 있으며, 미국 선거지원위원회는 AI 도구가 “기존 위협을 더 빠르고 효과적으로 확산시킬 수 있다”고 경고했다.
Anthropic 대변인은 Semafor에 여러 회사의 팀들이 오용 여부를 확인하기 위해 플랫폼을 적극적으로 모니터링하고, 새롭게 발생하는 사건에 신속하게 대응하기 위해 조율하고 있다고 밝혔다.
이번 준비는 AI가 생성한 허위 정보 게시물이 소셜미디어에 쏟아져 나오는 상황에 대한 우려가 커지는 가운데 이뤄졌다. The Guardian은 전문가들을 인용해 지난주 플랫폼들이 콘텐츠 조정을 축소하면서 이러한 게시물 대부분이 아마도 제대로 걸러지지 않은 채 유통되고 있다고 보도했다.
한편 Penn State의 사이버보안 연구자인 Joseph Squillace는 대학 측에 AI가 기존 사이버 공격을 가속화하고 선거 관련 허위 정보를 더 저렴하게 제작·유포하도록 만들 수 있다고 밝혔다.
한편 AI는 정치 캠페인이 유권자에게 다가갈 수 있는 또 다른 채널도 제공했다. Reuters는 지난주 컨설턴트들이 후보자들이 ChatGPT, Claude, Gemini의 응답에 영향을 미칠 수 있도록 온라인 콘텐츠를 맞춤화하는 것을 돕고 있다고 전했다. National Conference on Citizenship에 따르면 유권자격을 갖춘 사람 중 약 25%가 투표 방식을 결정할 때 정치 후보자에 관해 챗봇에 질문한 적이 있다.