ニューヨーク市会計監査官のMark Levine氏は、Anthropicに対し、来月予定している新規株式公開（IPO）の再検討を要請している。AI関連のリスクへの懸念が高まる中、株式を公開すれば、AI企業である同社が安全性に関する取り組みから注意をそらされる可能性があると警告した。
Levine氏は語った。木曜日にCNBCのSquawk Boxで、IPOには時間がかかり、Anthropicが安全性に関する優先事項と相反する決定を下すよう圧力を受ける可能性があると述べた。
「これは間違いなく、同社の安全性に関する取り組みの妨げになります」と、Levine氏は木曜日にCNBCで語った。「株式を公開すれば、成長と利益をめぐる新たな圧力が生じ、安全性に関する取り組みと衝突することになります。ニューヨーク市の年金基金はインデックスに連動しているため、私たちもこの問題の当事者です」
Levine氏は水曜日、AIの安全性への懸念が高まり、技術をどのように発展させるべきかをめぐって一部のAI業界リーダーとTrump政権の間の溝が深まる中、来月の株式公開計画をいったん停止するようAnthropicのCEOであるDario Amodei氏に求める書簡を送った。
以前Anthropicと競合するOpenAIの両社に勤務していたある研究者は、両社が開発を急ぎすぎ、人類を危険にさらしていると公に非難した。それ以降、両社のCEOは安全策を求める声を支持し、開発のペースを落とすことが不可欠だと述べている。
一方、Trump政権は中国に先んじようと競う中で、異なる道を歩んでいる。今月初め、Trump氏はAIを「super intelligence」と改称し、連邦政府による消費者、公益団体、宗教団体、重要インフラ事業者、AI企業とのAI関連の関わりを調整する任務を負うタスクフォースを設置した。
過去1カ月間、AI業界のリーダーたちはTrump氏と会談し、署名した。その任意の合意には、外部監査人との提携や社内統制の整備が盛り込まれている。しかしLevine氏は、こうした措置は不十分であり、「この重大な局面に対応する」には足りないと述べた。
「こうした懸念を踏まえ、Anthropicは、適切な監査と統制をどのように実施するのか、これらの統制が対象とする範囲、さらに実施予定時期を具体的に開示すべきです」とLevine氏は述べた。「また、AIモデルの能力の進歩のペースを落とすという貴社の呼びかけに対し、これらの統制が十分に対応できるのか、できるとすればどのように対応するのかについての説明も含めるべきです」
Anthropicはコメントを求める問い合わせにすぐには応じなかった。
Levine氏は会計監査官として、米国最大級の規模を持つ市の年金基金の投資顧問も務めている。同基金の運用資産は3250億ドルに上ると、Anthropicに送った書簡で説明している。
「将来の……投資家として、私たちはこの問題を重視しており、安全性をより適切に把握できるようになるまで、開発のペースを落とすべきだと考えています」とLevine氏は述べた。