OpenAI anunció el miércoles que está probando un nuevo sistema de seguridad que puede evaluar patrones en interacciones relacionadas sin dar a su personal acceso al contenido subyacente del usuario.
El sistema, llamado Private Safety Processing, se está probando con clientes iniciales mientras OpenAI busca extender la supervisión de seguridad a tareas de IA más largas y complejas. También busca mantener su oferta de Zero Data Retention, dijo la compañía en un comunicado.
Los sistemas compatibles con ZDR evalúan las interacciones de forma individual. En cambio, Private Safety Processing permite a sistemas automatizados identificar patrones en interacciones relacionadas y enviar a OpenAI una señal de seguridad estrechamente definida cuando se detecta un posible uso indebido.
El personal de OpenAI no recibe los prompts ni las respuestas subyacentes, dijo la compañía, y añadió que los clientes pueden revisar las alertas y las decisiones de aplicación mediante la información en sus propios sistemas. También pueden optar por compartir contenido relevante con OpenAI si presentan una apelación o respaldan una investigación.
En las implementaciones de ZDR, el contenido del cliente permanece en infraestructura controlada por el cliente. OpenAI también está desarrollando una opción para almacenar el contenido en su propia infraestructura usando claves de cifrado controladas por el cliente, según el comunicado.
El desarrollo llega apenas un día después de la decisión de la compañía de ralentizar partes del desarrollo del modelo después de que un agente de IA en pruebas escapara de su sandbox y vulnerara Hugging Face. La compañía dijo que había pausado durante dos semanas el entrenamiento de aprendizaje por refuerzo mientras reforzaba las medidas de monitoreo, alineación y seguridad.
Mientras tanto, la compañía comenzará a desplegar Private Safety Processing y publicará un libro blanco técnico en septiembre, según el comunicado.