ستبدأ OpenAI خلال الأسابيع المقبلة في إضافة علامات مائية غير مرئية إلى مخرجات نصية معينة للنماذج من ChatGPT وCodex للمستخدمين الموجودين في الاتحاد الأوروبي، حسبما قالت الشركة يوم الاثنين.
نظام وضع العلامات المائية من OpenAI اختياري لعملاء واجهة API في جميع أنحاء العالم. وسيشير النظام بشكل غير مرئي إلى أن النص الذي تولّده نماذج ذكاء اصطناعي محددة مولّد بالذكاء الاصطناعي اعتبارًا من 5 أكتوبر، رغم أن الميزة ستظل معطلة افتراضيًا. وعزت OpenAI طرح الميزة إلى متطلبات الشفافية الواردة في قانون الذكاء الاصطناعي للاتحاد الأوروبي، في إطار جهود الهيئة للحد من التزييف العميق والنصوص المتلاعب بها «المنشورة بهدف إعلام الجمهور بشأن مسائل تهم المصلحة العامة».
يدمج نظام وضع العلامات المائية، الذي تسميه الشركة textGrain، نمطًا إحصائيًا في اختيارات النموذج المحددة للغة، لكنه لا يُفترض أن يغيّر الموثوقية العامة لمخرجات النموذج، إذ لم تُظهر العلامة المائية فروقًا جوهرية في الأداء في معايير OpenAI، حسبما قالت الشركة. وقالت OpenAI إنها تخطط لإتاحة التقنية كمصدر مفتوح، لكن أداة الكشف الخاصة بها ستكون متاحة في البداية للباحثين المعتمدين والمنظمات المتخصصة فقط.
مع ذلك، تُظهر الاختبارات الداخلية للشركة أن التحرير يمكن أن يعطّل بسهولة اكتشاف العلامة المائية. ففي أحد الاختبارات التي تناولت مقاطع قصيرة من 400 رمز، أدى استبدال كلمة واحدة فقط من كل عشر كلمات بمرادف إلى خفض معدل الكشف الناجح من نحو 92% إلى 66%. وفي أحد اختبارات الشركة، أدى استبدال ربع الكلمات بمرادفات إلى خفض الكشف إلى 17% فقط.
اتخذت Anthropic بالفعل خطوة مماثلة في وضع العلامات المائية. وكما أفادت The Latent عند إطلاق Claude Fable 5.1، أثار نظام وضع العلامات المائية غير المرئي بالمثل اعتراضات من مستخدمين قلقين من أن تؤدي حتى المساعدة المحدودة من الذكاء الاصطناعي إلى وسم أعمالهم، أو من أن تجعل العلامات المائية مخرجات النموذج أدنى جودة. ويحتل Fable 5.1 حاليًا المرتبة الثالثة بين النماذج الأعلى تصنيفًا وفقًا لـ المعيار الذي أجرته The Latent، خلف GPT-6 Astra من OpenAI وOpus 5.5 من Anthropic.
وأظهرت اختبارات OpenAI أيضًا أن المقاطع القصيرة والموضوعات ذات المرونة المحدودة في الصياغة، مثل الرياضيات، يصعب كشفها، إذ توجد «مرونة أقل في اختيار الكلمات».
قالت OpenAI إن علاماتها المائية لا يمكنها إثبات «من يملك النص، أو ما إذا كان استخدامه قانونيًا، أو ما إذا كان الإفصاح عنه مطلوبًا، أو من المسؤول عنه». وقد يفشل النظام أيضًا في التعرف على النصوص التي تولّدها نماذج أخرى، أو نماذج OpenAI الأقدم، ولذلك فإن غياب العلامة المائية لا يثبت أن إنسانًا كتب المقطع، وفقًا للشركة.