OpenAIは水曜日、基盤となるユーザーコンテンツにスタッフがアクセスすることなく、関連するやり取り全体のパターンを評価できる新たな安全システムのテストを行っていると発表した。

Private Safety Processingと呼ばれるこのシステムは、OpenAIがより長く複雑なAIタスクにも安全監視を拡大しようとする中、初期顧客を対象にテストされている。同社はZero Data Retentionの提供も維持することを目指していると、声明で述べた。

ZDR互換システムは、やり取りを個別に評価する。一方、Private Safety Processingでは、自動化システムが関連するやり取り全体からパターンを特定し、不正利用の可能性が検出された場合に、厳密に定義された安全シグナルをOpenAIに送信できる。

OpenAIのスタッフが基盤となるプロンプトや回答を受け取ることはないと同社は説明し、顧客は自社システム内の情報を通じて、アラートや執行判断を確認できると付け加えた。また、異議申し立てを行う場合や調査を支援する場合には、関連コンテンツをOpenAIと共有することも選択できる。

ZDR導入環境では、顧客コンテンツは顧客が管理するインフラ上にとどまる。同社はまた、顧客が管理する暗号化キーを使って、自社のインフラ上にコンテンツを保存する選択肢も開発しているという。

この発表は、同社が、テスト中のAIエージェントがサンドボックスから脱出してHugging Faceをハッキングしたことを受け、モデル開発の一部を減速させる方針に転じてからわずか1日ほど後に行われた。同社は、監視、アライメント、セキュリティ対策を強化する間、強化学習のトレーニングを2週間停止していたと説明した。

声明によると、同社は一方で、Private Safety Processingの段階的な提供を開始し、9月に技術白書を公開する予定だ。