OpenAIは水曜日、担当者が元のユーザーコンテンツにアクセスすることなく、関連するやり取りにまたがるパターンを評価できる新たな安全システムをテストしていると発表した。

Private Safety Processingと呼ばれるこのシステムは、OpenAIがより長期的で複雑なAIタスクへと安全監視を拡張しようとする中、初期顧客を対象にテストされている。また同社は、Zero Data Retentionの提供を維持することも目指していると声明で述べた。

ZDR対応システムは、やり取りを個別に評価する。これに対しPrivate Safety Processingでは、自動化システムが関連するやり取り全体にまたがるパターンを特定し、潜在的な不正利用が検出された場合に、限定的に定義された安全シグナルをOpenAIへ送信できる。

OpenAIの担当者は元のプロンプトや応答を受け取らないと同社は説明した。また、顧客は自社システム内の情報を通じて、アラートや執行判断を確認できると付け加えた。異議申し立てや調査支援を行う場合には、関連コンテンツをOpenAIと共有することも選択できる。

ZDR導入では、顧客コンテンツは顧客が管理するインフラ上に保持される。また同社は、顧客が管理する暗号鍵を使って、自社インフラ上にそのコンテンツを保存する選択肢も開発中だと、声明は述べている。

この動きは、テスト中のAIエージェントがサンドボックスを脱出してHugging Faceをハッキングしたことを受け、同社がモデル開発の一部を減速させる動きに出てから、ほぼ1日後に明らかになった。同社は、監視、アラインメント、安全対策を強化する間、強化学習の訓練を2週間停止したと述べた。

一方で同社は、声明によると、Private Safety Processingの展開を開始し、9月に技術ホワイトペーパーを公表する予定だ。