Anthropicはアジア太平洋地域での事業を拡大し、水曜日にシンガポールにオフィスを開設するとともに、同国のデジタル開発・情報省とAI安全性に関する覚書（MOU）を締結した。
Anthropicは声明で、Claudeはすでにシンガポールの企業や政府機関（GovTech Singapore、Grab、DBSなど）で利用されていると述べた。AnthropicのEconomic Indexによると、シンガポールは人口比で見たClaudeの利用状況で、121カ国中2位に位置している。
「私たちは長期的にシンガポールに取り組んでいく」と、AnthropicでASEAN担当ゼネラルマネージャーを務めるDale Finlay氏は述べた。「当地の顧客はAIに極めて高い基準を求めており、特に信頼性とセキュリティを重視しています。現地にチームを置くことで、Claudeを最も難しい課題の解決に活用している組織に、より近い立場で対応できます」
シンガポールのデジタル開発・情報省のKai Fong Chng事務次官と、Anthropicの共同創業者Ben Mann氏は、Singapore International Cyber Weekの期間中にMOUに署名した。Anthropicによると、同MOUはAIの安全性、セキュリティ、モデル評価における協力を対象とし、AI導入とその影響に関する研究や、公共・民間部門全体での責任ある導入なども含む。
AIの安全性とアラインメントは、最先端AIの開発企業にとって依然として大きな懸念事項だ。先月、AnthropicのCEOであるDario Amodei氏は、安全性とアラインメントへの懸念を理由に、AI開発のペースを落とすことを提案した。OpenAIのSam Altman氏、Google DeepMindのDemis Hassabis氏、SpaceXSIのElon Musk氏がこの提案を支持した。
「シンガポールのAIへのアプローチは、進化するリスクに対応しながら、イノベーションを可能にするというものでした。企業、労働者、一般市民が安心してAIを利用するには、信頼が不可欠です」と、Chng氏は水曜日に述べた。「Anthropicとのこのパートナーシップは、AIの責任ある導入を拡大し、企業や政府機関の能力を高め、シンガポールに成果をもたらすという政府の取り組みを反映したものです」
Anthropicは2023年からシンガポール政府と協力しており、これまでにInfocomm Media Development AuthorityとAI Verify Foundationが運営するGenerative AI Evaluation Sandboxに参加したほか、その後はレッドチーム演習のプロジェクトでも提携している。
「MOUに基づき、モデル評価、テスト基準、インシデント対応について、シンガポールのAI安全性・セキュリティ・保証機関と技術交流を行う予定です」とAnthropicは述べた。「私たちは世界各地の安全性研究機関とも同様の取り組みを行っています。技術情報を共有することで、政府は最先端AIの能力とリスクをより明確に把握できるようになり、開発者がより安全なモデルを構築する助けにもなります」