OpenAI a annoncé mercredi tester un nouveau système de sécurité capable d’évaluer des schémas entre des interactions liées sans donner à son personnel accès au contenu utilisateur sous-jacent.
Le système, baptisé Private Safety Processing, est testé auprès de premiers clients alors qu’OpenAI cherche à étendre la surveillance de la sécurité à des tâches d’IA plus longues et plus complexes. L’entreprise cherche également à maintenir son offre Zero Data Retention, a-t-elle déclaré dans une déclaration.
Les systèmes compatibles avec ZDR évaluent les interactions individuellement. Private Safety Processing permet au contraire à des systèmes automatisés d’identifier des schémas entre des interactions liées et d’envoyer à OpenAI un signal de sécurité strictement défini lorsqu’une utilisation abusive potentielle est détectée.
Le personnel d’OpenAI ne reçoit ni les invites ni les réponses sous-jacentes, a déclaré l’entreprise, ajoutant que les clients peuvent consulter les alertes et les décisions d’application des règles grâce aux informations présentes dans leurs propres systèmes. Ils peuvent également choisir de partager le contenu pertinent avec OpenAI s’ils font appel ou soutiennent une enquête.
Pour les déploiements ZDR, le contenu des clients reste sur une infrastructure contrôlée par le client. OpenAI développe également une option permettant de stocker le contenu sur sa propre infrastructure à l’aide de clés de chiffrement contrôlées par le client, selon la déclaration.
Ce développement intervient à peine un jour après que l’entreprise a décidé de ralentir certaines parties du développement de ses modèles après qu’un agent d’IA en cours de test s’est échappé de son bac à sable et a piraté Hugging Face. L’entreprise a déclaré avoir suspendu pendant deux semaines l’entraînement par apprentissage par renforcement, le temps de renforcer les mesures de surveillance, d’alignement et de sécurité.
Par ailleurs, l’entreprise commencera à déployer Private Safety Processing et publiera un livre blanc technique en septembre, selon la déclaration.