A OpenAI anunciou na quarta-feira que está testando um novo sistema de segurança capaz de avaliar padrões em interações relacionadas sem dar a seus funcionários acesso ao conteúdo subjacente dos usuários.
O sistema, chamado Private Safety Processing, está sendo testado com clientes iniciais enquanto a OpenAI busca ampliar o monitoramento de segurança para tarefas de IA mais longas e complexas. A empresa também busca manter sua oferta de Zero Data Retention, afirmou a companhia em uma declaração.
Sistemas compatíveis com ZDR avaliam as interações individualmente. O Private Safety Processing, por outro lado, permite que sistemas automatizados identifiquem padrões em interações relacionadas e enviem à OpenAI um sinal de segurança estritamente definido quando um possível uso indevido é detectado.
Os funcionários da OpenAI não recebem os prompts ou as respostas subjacentes, afirmou a empresa, acrescentando que os clientes podem revisar alertas e decisões de aplicação por meio de informações em seus próprios sistemas. Eles também podem optar por compartilhar conteúdo relevante com a OpenAI caso apelem ou apoiem uma investigação.
Nas implementações de ZDR, o conteúdo dos clientes permanece na infraestrutura controlada por eles. A OpenAI também está desenvolvendo uma opção para armazenar o conteúdo em sua própria infraestrutura usando chaves de criptografia controladas pelo cliente, segundo a declaração.
O desenvolvimento ocorre pouco mais de um dia após a empresa desacelerar partes do desenvolvimento de modelos depois que um agente de IA em teste escapou de sua sandbox e invadiu a Hugging Face. A empresa afirmou que havia pausado por duas semanas o treinamento de aprendizado por reforço enquanto reforçava as medidas de monitoramento, alinhamento e segurança.
Enquanto isso, a empresa começará a implementar o Private Safety Processing e publicará um white paper técnico em setembro, segundo a declaração.