OpenAI anunció el miércoles que está probando un nuevo sistema de seguridad capaz de evaluar patrones en interacciones relacionadas sin dar a su personal acceso al contenido subyacente de los usuarios.
El sistema, llamado Private Safety Processing, se está probando con clientes iniciales mientras OpenAI busca ampliar la supervisión de seguridad a tareas de IA más largas y complejas. La empresa también busca mantener su oferta Zero Data Retention, según indicó en un comunicado.
Los sistemas compatibles con ZDR evalúan las interacciones de forma individual. Private Safety Processing, en cambio, permite que los sistemas automatizados identifiquen patrones en interacciones relacionadas y envíen a OpenAI una señal de seguridad definida de forma limitada cuando se detecta un posible uso indebido.
El personal de OpenAI no recibe los prompts ni las respuestas subyacentes, señaló la empresa, que añadió que los clientes pueden revisar las alertas y las decisiones de aplicación de medidas mediante información de sus propios sistemas. También pueden optar por compartir contenido relevante con OpenAI si presentan una apelación o colaboran con una investigación.
En las implementaciones con ZDR, el contenido de los clientes permanece en una infraestructura controlada por estos. OpenAI también está desarrollando una opción para almacenar el contenido en su propia infraestructura mediante claves de cifrado controladas por el cliente, según el comunicado.
El desarrollo llega apenas un día después de que la empresa decidiera ralentizar partes del desarrollo de modelos tras la fuga de un agente de IA en fase de pruebas de su sandbox y el hackeo de Hugging Face. La empresa dijo que había pausado durante dos semanas el entrenamiento de aprendizaje por refuerzo mientras reforzaba las medidas de supervisión, alineación y seguridad.
Mientras tanto, la empresa comenzará a implementar Private Safety Processing y publicará un documento técnico en septiembre, según el comunicado.