Anthropic이 연례 사용 정책을 업데이트하고, 선거 개입·무기 개발·감시에 Claude를 사용하는 것과 관련한 제한 사항을 명확히 하려 나섰다. 이번 업데이트는 AI 연구소인 Anthropic이 1년여 만에 처음으로 사용 정책을 변경한 것이다.
Anthropic은 유권자를 속이거나 선거를 방해하기 위해 Claude를 사용하는 것을 금지하는 데 특히 초점을 "더욱 명확히" 맞췄다. 여기에는 후보자를 사칭하거나 후보자에 관한 허위 정보를 퍼뜨리는 행위가 포함된다. Anthropic은 이러한 범위를 반영해 해당 규정의 명칭을 "민주적 절차 훼손 금지"로 변경했다. 또한 Claude를 이용해 가짜 계정 네트워크와 조작된 뉴스 사이트를 운영하는 행위에 관한 규정도 하나로 통합했다.
무기 개발과 관련해 Anthropic은 업데이트된 조항에서 "금지 대상에는 무기를 작동하게 하는 소프트웨어와 부품은 물론, 드론과 기타 자율주행 차량을 무장시키는 행위도 포함된다"고 명확히 밝혔다. 또한 감시와 형사 사법에 관한 조항을 다시 작성해 금지 대상이 무엇인지 더욱 정확히 명시했다.
이번 업데이트는 자율 무기와 대규모 감시에 Claude를 사용하는 것을 제한한 Anthropic의 정책을 두고 미국 정부와 수개월간 분쟁을 벌인 뒤 나왔다. Pentagon은 최근 Anthropic의 AI 도구 사용을 중단했고 이는 회사의 안전장치를 둘러싼 대치 끝에 이뤄졌다.
목요일 소셜미디어에서 확산되고 있는 또 다른 업데이트는 Anthropic이 자사 모델을 향한 모욕적 행동을 다룬 내용이다.
블로그에는 "모델을 대상으로 지속적이고 불필요하게 모욕적이거나 잔인한 행동을 금지하는 조항을 추가했다"고 적혀 있다. "이번 정책 업데이트는 사용자가 뚜렷한 목적 없이 반복적으로 모델을 잔인하게 대하는 극단적인 경우에만 적용된다. 일반적인 사용자 불만이나 반발, 어두운 창작 주제, 모델 테스트 및 연구에는 적용되지 않는다."
업데이트된 정책은 11월 12일부터 시행된다.