Anthropic CEOのDario Amodei氏は、同社のAI安全対策への批判を受けてソーシャルメディアに投稿し、技術の最前線で競争する同社の戦略は、安全を優先するよう意図的に設計されたものだと主張した。
この投稿は、Encode AIの最高戦略責任者であるNathan Calvin氏への返信として投稿された。Calvin氏は、過去1年間のAnthropicの行動が、AIの安全性への取り組みと整合しているのか疑問を呈していた。
Calvin氏は火曜日のXへの投稿で、大規模なコンピュート契約の締結、開発を加速するため社内の研究開発に大量のコンピュートを投入したこと、州のAI安全法の中核部分を無効化する法案の草案を議会と共有したことなど、複数の判断を列挙した。これらは、同社が安全性よりも最先端AIの競争で勝つことを主眼としていた証拠だとした。
Amodei氏は、特にAnthropicのコミュニケーション上の誤りについて、Calvin氏の指摘の一部を認めた。しかし、Anthropic CEOは、同社のこれまでの実績に対する総括的な評価は否定した。
「私たちの戦略は常に、私が『より高みを目指す競争』と呼んできたものだ。責任ある形で技術を構築できることを示すことで、業界全体の基準を引き上げられる」とAmodei氏は記した。「その戦略全体を見れば、私たちの実績を誇りに思っており、今もその方針を支持している」
商業的には高くつく安全上のメリット
Amodei氏はXへの投稿で、過去1年間にAnthropicが実施した「商業的には高くつく」9つの行動を列挙した。ただし、いずれも安全性上のメリットがあるため実行したものだという。
その中には、大規模AI研究所に安全性の枠組みを公開・維持することを義務付けるカリフォルニア州のSB 53を、支持することが「政治的に非常に危険」だった時期に支持したことが含まれる。また、生物医学分野にプラスの影響を及ぼす可能性があるにもかかわらず、モデルに極めて厳格な生物学的安全対策を維持したことも挙げた。この判断は、AIを使って生物兵器を作ろうとする潜在的な試みを阻止するために行われた。
同社はさらに、より強固なサイバーセキュリティ対策を整えるため、Mythosクラスのモデルの一般提供を延期した。リストにはこのほか、政府がモデルのリリースを阻止する権限を持つべきだと公に訴えたこと、中国へのチップおよびチップ製造装置の輸出規制を引き続き支持していることなどが含まれる。
この2人のAI関係者のやり取りは、AIの安全性とアラインメントをめぐる議論が激しさを増す中で行われた。高度なAIがいつか人間の制御を超える可能性への懸念が高まっている。
「公平を期すなら、AIによる加速が、安全対策が追いつくのが難しいほど速くなったときにどうすべきかについて、重要な問いがある（そして私たちはその問いに向き合っている）」とAmodei氏は付け加えた。「私たちはその地点に近づいており、それが『ペーシング』について考える際の原動力になっている」