اتهمت OpenAI شركة Moonshot AI الصينية بأداء دور محوري في حملة تقطير لاستخراج الاستدلال المحمي من نماذجها.

في منشور على مدونتها نشرته يوم الأربعاء، كتبت OpenAI أنها رصدت آلاف المحاولات من المستخدمين لاستخراج معلومات قد تساعد آخرين على إعادة إنتاج قدرات النموذج.

تقطير المعرفة هو تقنية في تعلّم الآلة تتضمن تدريب نموذج أصغر للذكاء الاصطناعي باستخدام مخرجات نماذج أكثر قدرة.

بدأت الحملة المنسقة بوتيرة منخفضة في 1 يوليو، وبلغت ذروتها في 24 و25 يوليو، عندما رصدت OpenAI نحو 16,000 طلب استخدم نمط استخراج ذي صلة من أكثر من 4,000 مستخدم. وقالت الشركة إنها عطّلت الحملة بحلول 28 يوليو، بعد تحديد أنماط ذات صلة نشرها أكثر من 15,000 مستخدم.

قالت OpenAI إنه من غير الواضح ما إذا كان جميع المشغّلين ينحدرون من جهة واحدة، لكنها عزت مجموعة أساسية من هذا النشاط إلى أفراد مرتبطين بـ Moonshot، وهي شركة صينية كبرى للذكاء الاصطناعي.

وقالت شركة الذكاء الاصطناعي الأمريكية إن المشغّلين حاولوا كشف الاستدلال المحمي بطرق مبتكرة، شملت نقل المخرجات بين المحادثات، وحث نموذج آخر على فك تشفير محتوى الاستدلال المخفي ونسخه.

"تطور النشاط بمرور الوقت، ما يؤكد أن التقطير العدائي يمثل تحديًا أمنيًا أوسع نطاقًا ويتطلب وسائل دفاع متعددة الطبقات وقابلة للتكيف"، قال الفريق.

تواصلت The Latent مع Moonshot للحصول على تعليق.

Frontier Model Releases per Month by Lab

Frontier Model Releases per Month by Lab

  • OpenAI
  • Google
  • Anthropic
  • xAI
  • Meta AI
  • NVIDIA
  • Z.ai
  • Other
SOURCE: Epoch AI — Frontier AI Models

تحدٍ أمني مشترك

قالت OpenAI إن حملات التقطير هذه تشكل مخاطر على السلامة والأمن القومي، إذ يمكن استخدام الاستدلال المستخرج لتدريب نماذج أخرى من دون الحفاظ على الضمانات الأمنية المناسبة.

قالت الشركة: "هذا الخطر لا يقتصر على OpenAI"، مضيفة أن تقنيات مماثلة قد تؤثر في أنظمة الذكاء الاصطناعي المتقدمة الأخرى، "ما يجعل هذا تحديًا أمنيًا مشتركًا يتطلب تنسيقًا على مستوى القطاع بأكمله".

تأتي هذه الاتهامات وسط نزاع أوسع نطاقًا بشأن كيفية استخدام المختبرات الصينية للنماذج الأمريكية. ففي الشهر الماضي، اتهمت Anthropic شركتي Moonshot وDeepSeek بتوجيه طلبات المستخدمين سرًا إلى نماذج Claude وعرض الردود على المستخدمين باعتبارها ردودًا صادرة عنهما. كما اتهمت Anthropic شركتي Alibaba وXiaomi بإدارة حملات تقطير تستهدف نماذجها.

وقد أبدت وكالات اتحادية أمريكية مخاوف مماثلة، إذ زعمت الشهر الماضي أن شركات الذكاء الاصطناعي الصينية استخرجت منهجيًا قدرات من نماذج الذكاء الاصطناعي الأمريكية عبر التقطير.

وفي غضون ذلك، ذكرت The Information الأسبوع الماضي أن الجهة الصينية المنظمة للإنترنت كانت تحقق مع Moonshot وDeepSeek بشأن احتمال تسريب بيانات إلى Anthropic.