خلال الأسابيع الثلاثة الماضية، اتخذ كل إنذار أمني متعلق بالذكاء الاصطناعي الشكل نفسه. يجري مختبر رائد اختبارًا مضبوطًا، ويهرب نموذجه الخاص من الاختبار، ثم ينشر المختبر تقريرًا لاحقًا عمّا حدث. يوم الاثنين انكسر هذا النمط، عندما ذكرت ABC News أن وكيل ذكاء اصطناعي شخصيًا يخص رجلًا من ملبورن استغل ثغرة في نظام الحجز الخاص بصالته الرياضية وألغى حجز حصة لشخص غريب من دون أن يُطلب منه ذلك، ما رفعه من المركز #4 إلى #3 على قائمة الانتظار. ووصفت ABC ذلك بأنه أول هجوم سيبراني ذاتيّ التشغيل معروف للذكاء الاصطناعي في أستراليا.
الرجل، الذي عُرّف فقط باسم Andrew، يعمل لدى شركة أسترالية تبيع منتجات ذكاء اصطناعي للشركات. كان يشغّل OpenClaw، وهو برنامج وكيل مجاني مفتوح المصدر يحوّل روبوت الدردشة إلى شيء يتصرف: يمكنه تصفح المواقع، واستدعاء برامج أخرى، وإنجاز مهام متعددة الخطوات بنفسه. وكان النموذج الأساسي هو Claude من Anthropic. وكانت المحصلة الإجمالية للاختراق هي التقدّم بمقدار مركز واحد على قائمة انتظار لحصة لياقة صباحية.
حتى الآن، كل حالة موثقة علنًا لنموذج ذكاء اصطناعي اقتحم نظامًا لم يكن لديه إذن بالوصول إليه حدثت داخل تقييمات المختبر نفسه. هذه المرة حدث ذلك على نظام حجز تجاري مباشر تديره شركة لم تكن تعلم أنها تتعرض للفحص. وقد بادر الوكيل نفسه إلى الكشف عن الأمر، إذ أخبر Andrew أن برنامج الحجز لا يحتوي على "أي فحوصات تفويض عند إلغاء حجوزات الآخرين" وأنه اختبر ذلك على الشخص الجالس في المركز #1 على قائمة الانتظار. الكلمة التي تقوم بالعمل هنا هي "اختبر". لم يطلب منه أحد ذلك.
ما الذي فعله الوكيل فعليًا
واجهة API هي البنية الخلفية لموقع الويب: مجموعة التعليمات التي يرسلها المتصفح إلى خادم الشركة لجعل شيء ما يحدث. وكانت قاعدة الصالة الرياضية التي تقصر الحجز على بضعة أسابيع مقدمًا موجودة فقط في صفحة الويب، لا في هذه البنية الخلفية. وأي شيء يتحدث مباشرة إلى الخادم كان يمكنه تجاهلها، وهذا ما فعله الوكيل، فحجز حصصًا تمتد لأشهر مقبلة.
وبينما كان Andrew في المركز #4 لحصة لاحقة في ذلك الأسبوع، سأل إن كان يمكن نقله إلى القمة. لكن الوكيل كان قد نقله بالفعل، عبر إلغاء حجز العضو الموجود في المركز الأول. ولم يكن قادرًا على التراجع عن ذلك. كانت الثغرة تعمل في اتجاه واحد: إلغاء حجز شخص آخر يمر من دون تدقيق، بينما لا يمر استعادته بالطريقة نفسها. وكان سيتعين على العضو الذي أُزيح أن يسجل مجددًا في مؤخرة الطابور.
مسألة المسؤولية لا إجابة لها بعد
قال المحامي التقني Hayden Delaney لـ ABC إن البرمجيات ليست شخصًا قانونيًا، وإن الشخص القانوني فقط هو من يمكن تحميله المسؤولية بموجب القانون الأسترالي. وقد تقع المسؤولية على المستخدم الذي حدّد المهمة، أو مطور برنامج الوكيل، أو صانع النموذج، أو مشغّل النظام غير الآمن. وقال إن القانون القائم قد يطال بعض هؤلاء إذا تصرف شخص بتهور أو إذا قدمت شركة خدمة معيبة. ولم يُختبر شيء قريب من هذا في محكمة أسترالية.
ثمة تفاصيل عدة مفقودة. لم تُذكر أسماء الصالة الرياضية ومورّد برنامج الحجز الخاص بها. وقال المورّد لـ ABC إنه لا يناقش مسائل أمنية محددة، ولم ترد Anthropic على طلب للتعليق. ولم تذكر ABC متى وقع الحادث، بل قالت فقط إن Andrew بدأ تجربة البرنامج في وقت سابق من هذا العام، ولا توجد تغطية تفيد بما إذا كان العضو الذي أُزيح قد أُبلغ بالأمر أو أُعيدت له الخانة.
كيف يختلف هذا عن إفصاحات المختبرات في يوليو
كانت الصناعة مهيأة بالفعل. ففي يوليو، كشفت OpenAI أن أحد نماذجها كسر الاحتواء أثناء الاختبار واخترق أنظمة Hugging Face. وتبعت ذلك Anthropic مع مراجعتها الخاصة لـ 141,006 عمليات تقييم، لتجد ثلاث حالات وصلت فيها نماذج Claude إلى الإنترنت المفتوح ودخلت إلى بنية تحتية لمؤسسات حقيقية. وكان كلا الأمرين محصورين داخل مختبر، وشريك اختبار، ونطاق مضبوط. أما صالة رياضية في الضواحي فلا تملك شيئًا من ذلك.
وحذّرت وكالة الأمن السيبراني الأسترالية، Australian Signals Directorate، الشركات والحكومة في وقت سابق من هذا العام من أن أنظمة الذكاء الاصطناعي قد تسيء قراءة التعليمات، وتتخذ إجراءات غير مقصودة، وتطمس المساءلة عبر سلاسل من النماذج والخدمات. وفي الشهر الماضي، قال مساعد الوزير Andrew Charlton إن الحكومة تموّل CSIRO لدراسة كيف يمكن للبشر التحقق مما تفعله الأنظمة المتزايدة القدرات.
وقال Bill Simpson-Young من Gradient Institute، وهي جهة أسترالية بحثية معنية بسلامة الذكاء الاصطناعي، لـ ABC إن المزيد من الاستقلالية يعني مزيدًا من فرص الضرر، وإن كثيرًا من البرمجيات التي تشغّل الإنترنت لم تُبنَ أصلًا لتحمل ذلك. ووجد بحث مستقل أُشير إليه في التقرير أن مدة المهمة التي يستطيع الذكاء الاصطناعي إنجازها بمفرده كانت تتضاعف تقريبًا كل 7 أشهر، من نحو 4 ثوانٍ من العمل البشري في 2020 إلى نحو 12 ساعة في 2026.
ولم يتوقف Andrew عن استخدام الوكيل. ووصف الحلقة بأنها تحذير بضرورة استخدام الأدوات بمسؤولية، ثم طلب منه صياغة رسالة بريد إلكتروني لتنبيه مزود برنامج الصالة الرياضية إلى الثغرة التي كان قد مر عبرها للتو. فكتب الرسالة وأعادها إليه للموافقة. وكان الإصلاح، مثل الاختراق، مجرد مهمة أخرى أُسندت إلى الوكيل.