A OpenAI anunciou na quarta-feira que está testando um novo sistema de segurança capaz de avaliar padrões em interações relacionadas sem dar ao seu pessoal acesso ao conteúdo subjacente do usuário.
O sistema, chamado Private Safety Processing, está sendo testado com clientes iniciais, enquanto a OpenAI busca ampliar o monitoramento de segurança para tarefas de IA mais longas e complexas. Ele também busca manter sua oferta Zero Data Retention, disse a empresa em um comunicado.
Sistemas compatíveis com ZDR avaliam interações individualmente. Em vez disso, o Private Safety Processing permite que sistemas automatizados identifiquem padrões em interações relacionadas e enviem à OpenAI um sinal de segurança estritamente definido quando um possível uso indevido é detectado.
O pessoal da OpenAI não recebe os prompts ou respostas subjacentes, disse a empresa, acrescentando que os clientes podem revisar alertas e decisões de aplicação por meio de informações em seus próprios sistemas. Eles também podem optar por compartilhar conteúdo relevante com a OpenAI se recorrerem ou apoiarem uma investigação.
Em implantações ZDR, o conteúdo do cliente permanece em infraestrutura controlada pelo cliente. A OpenAI também está desenvolvendo uma opção para armazenar o conteúdo em sua própria infraestrutura usando chaves de criptografia controladas pelo cliente, segundo o comunicado.
O desenvolvimento ocorre pouco mais de um dia após a medida da empresa de desacelerar partes do desenvolvimento de modelos depois que um agente de IA em teste escapou de seu sandbox e hackeou o Hugging Face. A empresa disse que havia pausado o treinamento de aprendizado por reforço por duas semanas enquanto reforçava medidas de monitoramento, alinhamento e segurança.
Enquanto isso, a empresa começará a implementar o Private Safety Processing e publicará um white paper técnico em setembro, segundo o comunicado.