人工知能モデルが生物学的脅威を助長するために悪用される可能性があると、Anthropicは最新の報告書で警告した。
同社はAIモデルの潜在的な悪用について、2025年12月から8月までの活動を取り上げた154ページに及ぶ報告書で詳述した。そこには、生物学分野での悪用のほか、監視、詐欺、不正行為に関する事例が含まれている。
「当社がこの取り組みを公表するのは、当社のサービスが悪意を持って悪用された事例を開示する責任があると考えているからです」と同社は述べた。「モデルの能力がますます高まるにつれて、AI開発者と社会を守る側がモデルの安全性を高めるために行動しない限り、リスクも増大します」
Anthropicは、悪意ある利用者が同社の管理策を回避しようとした複数の事例を説明し、その後、同社が該当ユーザーのアカウントを停止したと述べた。Anthropicによると、ある事例では、米国外の研究者が鳥インフルエンザに関する研究でClaudeを使用していたことを確認した。
「当社が把握しているすべての証拠は、これが研究計画のごく初期段階にあることを示しています。しかし、その計画の詳細からは、パンデミックを引き起こす可能性が高められた病原体に関する研究であることが分かります」と同社は述べた。
同社は、この研究がデュアルユースという難しい問題を提起したと指摘した。同じ研究が、ウイルスへの理解を深めるために利用される可能性がある一方で、脅威を高める形でウイルスを改変するためにも使われる可能性がある。
Anthropicはまた、あるユーザーが助成金申請や、蚊が媒介するウイルスについて生物を遺伝的に変化させたり、新たな「生物学的特性」を作り出したりする方法を調査するためにClaudeを使用していたことを明らかにした。同ユーザーが懸念を招いたのは、助成金申請に関連する機関が「懸念の原因でもあった」ためだ。同機関は軍事研究機関で使用される予定だった。
「こうした初期段階の知見を公に共有することで、政府、業界、そして一般の人々が、これらのリスクの性質や、AIモデルを安全に展開するために必要な対策について理解を深める一助となることを願っています」と同社は述べた。