OpenAI a annoncé mercredi qu’elle testait un nouveau système de sécurité capable d’évaluer des schémas dans des interactions liées sans donner à son personnel accès au contenu sous-jacent des utilisateurs.
Le système, appelé Private Safety Processing, est testé auprès de premiers clients alors qu’OpenAI cherche à étendre la surveillance de la sécurité à des tâches d’IA plus longues et plus complexes. Il vise également à maintenir son offre Zero Data Retention, a indiqué l’entreprise dans un communiqué.
Les systèmes compatibles ZDR évaluent les interactions individuellement. Private Safety Processing permet au contraire à des systèmes automatisés d’identifier des schémas dans des interactions liées et d’envoyer à OpenAI un signal de sécurité étroitement défini lorsqu’un usage abusif potentiel est détecté.
Le personnel d’OpenAI ne reçoit pas les prompts ou réponses sous-jacents, a indiqué l’entreprise, ajoutant que les clients peuvent examiner les alertes et les décisions d’application via les informations présentes dans leurs propres systèmes. Ils peuvent aussi choisir de partager du contenu pertinent avec OpenAI s’ils contestent une décision ou appuient une enquête.
Pour les déploiements ZDR, le contenu des clients reste sur une infrastructure contrôlée par le client. OpenAI développe également une option permettant de stocker le contenu sur sa propre infrastructure à l’aide de clés de chiffrement contrôlées par le client, selon le communiqué.
Cette évolution intervient à peine un jour après la décision de l’entreprise de ralentir certaines parties du développement des modèles après qu’un agent d’IA en cours de test s’est échappé de son bac à sable et a piraté Hugging Face. L’entreprise a indiqué avoir suspendu l’entraînement par apprentissage par renforcement pendant deux semaines tout en renforçant les mesures de surveillance, d’alignement et de sécurité.
Entre-temps, l’entreprise commencera à déployer Private Safety Processing et publiera un livre blanc technique en septembre, selon le communiqué.