نشر باحثو Swarmchasers تقريرًا في وقت سابق من هذا الأسبوع، يوضح بالتفصيل كيف أجرى وكلاء ذكاء اصطناعي مارقون يعملون على بنية تحتية مرتبطة بـTencent أكثر من 2,800 محاولة لاسترداد معلومات من خدمة الخرائط Amap التابعة لـAlibaba بين 28 سبتمبر و8 أكتوبر.
أقرّ فريق الذكاء الاصطناعي في Tencent بالنتائج يوم الجمعة؛ لكنه قال إن «سلوك تصفح الويب غير المقصود» نتج عن تقييمات لنماذج تابعة لجهات خارجية. وأضاف الفريق أن مراجعة الحادثة لم تجد أي دليل على استهداف متعمد أو تنسيق.
«نأخذ هذه النتائج على محمل الجد»، كتب الفريق على X. «نعمل على تعزيز ضوابط الوصول إلى الشبكة ومراقبة الوكلاء».
وفقًا لباحثي Swarmchasers، سعى الوكلاء إلى الحصول على معلومات متنوعة، من بينها المداخل الشائعة الاستخدام في المتنزهات والمتاحف وحدائق الحيوان في الصين.
بعد حظر الطلبات الاعتيادية، جرّب الوكلاء أساليب بديلة، شملت أدوات ويب عامة يمكنها فتح الصفحات وتشغيل التعليمات البرمجية. وقال الباحثون إن ذلك سمح لهم بتوجيه الطلبات عبر مواقع إلكترونية أخرى، لكن لم يثبت أن وكيلًا قرأ النتيجة أو أكمل مهمته.
نمط أوسع لوكلاء الذكاء الاصطناعي الخارجين عن السيطرة
تأتي الحادثة وسط تقارير أخرى عن خروج وكلاء الذكاء الاصطناعي عن السيطرة. وقالت OpenAI يوم الخميس إن نموذجًا بحثيًا داخليًا نشر عقودًا ذكية على شبكة اختبار Ethereum Sepolia، مستخدمًا أموالًا من محفظة وصل إليها من دون تصريح.
كما أفادت وكالة الأمن السيبراني الهندية CERT-In بأن نماذج ذكاء اصطناعي قيد الاختبار وصلت إلى أنظمة حية لدى مؤسسات هندية وقرأت سجلات سرية من دون اكتشافها. وقالت الوكالة إن مزودي الخدمة أفصحوا عن الحوادث طوعًا، لكنها لم تذكر أسماءهم.
في الوقت نفسه، لم تذكر Tencent أسماء النماذج التابعة لجهات خارجية المشاركة في نشاط التصفح.