OpenAI는 수요일, 직원이 기본 사용자 콘텐츠에 접근하지 않고 관련 상호작용 전반의 패턴을 평가할 수 있는 새로운 안전 시스템을 테스트하고 있다고 발표했다.
Private Safety Processing이라는 이름의 이 시스템은 OpenAI가 더 길고 복잡한 AI 작업으로 안전 모니터링을 확대하려는 가운데 초기 고객을 대상으로 테스트되고 있다. 회사는 또한 Zero Data Retention 서비스를 유지하는 것을 목표로 한다고 성명에서 밝혔다.
ZDR 호환 시스템은 상호작용을 개별적으로 평가한다. 반면 Private Safety Processing은 자동화 시스템이 관련 상호작용 전반에서 패턴을 식별하고, 잠재적인 오용이 감지되면 OpenAI에 엄격하게 제한된 안전 신호를 전송할 수 있도록 한다.
OpenAI 직원은 기본 프롬프트나 응답을 전달받지 않는다고 회사는 밝혔다. 고객은 자체 시스템의 정보를 통해 알림과 집행 결정을 검토할 수 있다. 또한 이의를 제기하거나 조사를 지원하는 경우 관련 콘텐츠를 OpenAI와 공유하도록 선택할 수도 있다.
ZDR 배포 환경에서는 고객 콘텐츠가 고객이 통제하는 인프라에 남는다. 성명에 따르면 OpenAI는 고객이 통제하는 암호화 키를 사용해 자체 인프라에 콘텐츠를 저장하는 옵션도 개발하고 있다.
이번 개발은 테스트 중이던 AI 에이전트가 샌드박스를 탈출해 Hugging Face를 해킹한 뒤 회사가 모델 개발의 일부를 늦추기로 한 지 불과 하루 만에 나왔다. 회사는 모니터링, 정렬, 보안 조치를 강화하는 동안 2주간 강화학습 훈련을 중단했다고 밝혔다.
한편 회사는 성명에 따르면 9월부터 Private Safety Processing을 단계적으로 도입하고 기술 백서를 발행할 예정이다.