Anthropicは年次利用ポリシーを更新し、選挙介入、兵器開発、監視を目的としたClaudeの利用に関する制限を明確化しようとしている。AI研究企業である同社が利用ポリシーを更新するのは、1年以上ぶりだ。
同社は特に、候補者になりすましたり、候補者に関する虚偽情報を拡散したりするなど、投票者を欺いたり選挙を妨害したりする目的でClaudeを利用することを禁止する方針を「明確化」した。同社はその範囲を反映するため、項目名を「民主的プロセスを損なわない」に変更した。また、Claudeを使って偽アカウントのネットワークや架空のニュースサイトを運営することに関する規則も統合した。
兵器開発について、Anthropicは更新した項目で「禁止対象には、兵器を機能させるソフトウェアや部品に加え、ドローンなどの自律型車両への武装といった行為も含まれる」と明記した。同社は監視と刑事司法に関する項目も書き換え、禁止事項をより正確に示した。
今回の更新は、Anthropicが自律型兵器や大規模監視にClaudeを利用することへの制限をめぐり、米政府と数カ月にわたって対立した後に行われた。Pentagonは最近、AnthropicのAIツールの利用を取りやめた。同社の安全対策をめぐる対立が物別れに終わったことを受けた措置だ。
木曜日にソーシャルメディアで話題になっているもう1つの更新は、Anthropicが同社のモデルに対する悪質な行為をポリシーで取り上げたことだ。
ブログには「当社のモデルに対する、執拗かつ不必要な虐待的または残酷な行為を禁止する項目を追加した」とある。「今回のポリシー更新は、ユーザーが明確な目的もなく、当社のモデルに対して繰り返し残酷な行為をする極端なケースにのみ適用される。一般的なユーザーの苛立ちや反発、ダークな創作テーマ、モデルのテストや研究には適用されない」
更新されたポリシーはNov. 12に発効する。