Anthropic更新了其年度使用政策，旨在明确限制使用Claude干预选举、开发武器和开展监控。这是这家AI实验室一年多来首次更新使用政策。
该公司特别“进一步明确”了禁止使用Claude欺骗选民或扰乱选举的规定，例如冒充候选人或散布有关候选人的虚假信息。Anthropic将该条款更名为“不得破坏民主进程”，以体现其适用范围。该公司还整合了有关使用Claude运营虚假账户网络和伪造新闻网站的规定。
在武器开发方面，Anthropic更新后的条款明确指出，“我们的禁令包括使武器发挥作用的软件和组件，也包括为无人机及其他自主载具装配武器等行为。”该公司还重写了监控和刑事司法部分，更准确地说明其禁止的行为。
此次更新发布之际，Anthropic与美国政府围绕限制Claude用于自主武器和大规模监控一事，已经持续数月陷入争议。五角大楼最近弃用了Anthropic的AI工具，此前双方曾因该公司的安全防护措施陷入僵局。
周四，社交媒体上广泛传播的另一项更新，是Anthropic对针对其模型的滥用行为作出的回应。
博客写道：“我们新增了一项禁令，禁止持续且毫无必要地对我们的模型实施辱骂或残酷行为。”博客还写道：“此次政策更新仅适用于极端情况，即用户反复残酷对待我们的模型，且没有明显目的。它不适用于用户常见的挫败情绪、质疑反驳、阴暗创作主题，以及模型测试和研究。”
更新后的政策将于Nov. 12生效。