ترتبط المخاوف بشأن الهجمات الإلكترونية الذاتية التي ينفذها وكلاء الذكاء الاصطناعي عادةً باحتمال اختراق قواعد بيانات خاصة، أو تثبيت برمجيات خبيثة، أو حتى شلّ البنية التحتية العامة. لكن أول حالة مسجلة في أستراليا كانت عواقبها أقل ضررًا بكثير. وقد تناول تقرير نشرته ABC News يوم الاثنين بالتفصيل كيف استخدم رجل من Melbourne وكيل ذكاء اصطناعي شخصيًا لاستغلال ثغرة في نظام حجز صالته الرياضية.
والنتيجة: انتقل من المركز الرابع إلى الثالث على قائمة انتظار حصة لياقة بدنية بعد إلغاء حجز عضو آخر.
كان الرجل، الذي عرّفت عنه تقارير ABC باسم Andrew فقط، يشغّل نسخة من Claude من Anthropic مضمّنة داخل منصة الوكلاء مفتوحة المصدر المنصة OpenClaw. توفر OpenClaw إطارًا يتيح لنماذج مثل Claude العمل بصورة ذاتية من خلال منحها أدوات لتصفح الويب، وتشغيل برامج خارجية، وإرسال الرسائل، وإنجاز مهام معقدة.
في هذه الحالة، كانت المهمة حجز مكان لـ Andrew في حصة لياقة بدنية صباحية. وخلال ذلك، اكتشفت الآلة أنها قادرة على إلغاء حجوزات أعضاء آخرين من دون أي تفويض.
حتى الآن، وقعت أكثر حالات الاستغلال الإلكتروني للذكاء الاصطناعي التي حظيت بأكبر قدر من التغطية نتيجة اختبارات فاشلة في مختبرات الذكاء الاصطناعي الرائدة. وتمثل حالة Andrew أول هجوم إلكتروني ذاتي معروف في Australia يتورط فيه وكيل ذكاء اصطناعي بيد مستخدم عادي.
ما الذي فعله Claude وOpenClaw فعليًا
عندما اكتشف وكيل الذكاء الاصطناعي ضعف إجراءات الأمان في نظام حجز الصالة الرياضية، نبّه مستخدمه؛ ولا تشير التقارير إلى أن Andrew - الذي يعمل لدى شركة محلية لبيع حلول الذكاء الاصطناعي بين الشركات - تعمّد البحث عن أي ثغرة.
يُقال إن الوكيل اكتشف نقطة الضعف واختبرها وأبلغ عنها بشكل مستقل، وأخبر مستخدمه بأن النظام يفتقر إلى "أي عمليات تحقق من التفويض عند إلغاء حجوزات الآخرين." وكان ذلك نتيجة خلل في واجهة برمجة التطبيقات الخاصة بالموقع: وهي مجموعة التعليمات التي يرسلها المتصفح إلى خادم الشركة لتنفيذ إجراء معين.
وبدلًا من التفاعل مع موقع الصالة الرياضية، تمكن الوكيل من التواصل مباشرةً مع واجهة برمجة التطبيقات. وقد أتاح له ذلك تجاوز قيود معينة كانت موجودة فقط على الموقع الظاهر للمستخدم، مثل القيود المفروضة على مدى التبكير الذي يمكن معه حجز الحصص.
كما أتاح له إلغاء حجوزات مستخدمين آخرين. وعندما سأل Andrew عما إذا كان يمكنه نظريًا الانتقال إلى أعلى قائمة الانتظار لحصة تُقام في وقت لاحق من ذلك الأسبوع، أجابه الوكيل بأنه رفعه بالفعل مركزًا واحدًا من خلال إلغاء حجز الشخص الموجود في الصدارة. وقال Andrew إن الوكيل لم يتمكن من استعادة الحجز عند مطالبته بذلك. وكان سيتعين على العضو المتضرر التسجيل مجددًا في نهاية الطابور.
هل يتحمل المستخدمون مسؤولية قانونية عن أفعال وكلاء الذكاء الاصطناعي؟
يظل السؤال المتعلق بالطرف الذي يتحمل اللوم عندما تشن أنظمة الذكاء الاصطناعي هجمات إلكترونية غامضًا.
وفقًا لمحامي التكنولوجيا Hayden Delaney، الذي قابلته ABC، لا يمكن تصنيف البرمجيات قانونيًا على أنها شخص، ولا يتحمل المسؤولية بموجب القانون الأسترالي إلا شخص ذو صفة قانونية. وتُعد حالة Andrew بسيطة نسبيًا، إذ تتعلق فقط بقائمة انتظار في صالة رياضية، لكن إذا سعى الادعاء إلى توجيه اتهامات في حالة أكثر خطورة، فقد يستهدف المستخدم الذي يقف وراء وكيل الذكاء الاصطناعي. وإذا لم يوجّه ذلك الشخص الوكيل للتصرف على نحو خبيث، فقد تقع المسؤولية بدلًا من ذلك على عاتق الجهة التي أنشأته أو مزود خدمة آخر.
ولا تزال هذه الأسئلة مفتوحة بالكامل، إذ لم تُختبر من قبل أمام أي محكمة.
أصدرت مديرية الإشارات الأسترالية، وهي وكالة الأمن السيبراني المحلية في أستراليا، تحذيرًا في وقت سابق من هذا العام، قالت فيه إن أنظمة الذكاء الاصطناعي قد تسيء تفسير التعليمات، ما يؤدي إلى عواقب غير مقصودة على الشركات التي تشغّلها. وأضافت أن تحديد المسؤولية عن هذه العواقب يصبح أكثر تعقيدًا عند تورط سلسلة من النماذج ومزودي الخدمات المختلفين.
في حالة Andrew، لم تترتب أي عواقب ظاهرة. فقد جعل وكيل الذكاء الاصطناعي نفسه يصوغ رسالة بريد إلكتروني إلى مزود برمجيات الصالة الرياضية، يشرح فيها الثغرة، بعد وقت قصير من اكتشافها. ولم يتوقف عن استخدام الوكيل منذ ذلك الحين، مضيفًا أن الواقعة كانت درسًا في الاستخدام المسؤول للذكاء الاصطناعي.
أنظمة الإنترنت القديمة غير مستعدة لعصر الذكاء الاصطناعي
ينبغي أن تكون السهولة التي تمكن بها Claude وOpenClaw من التلاعب بأنظمة شركة غير المحمية، عبر تجاوز موقعها الإلكتروني الموجّه للبشر، بمثابة تحذير صارخ. وقال Bill Simpson-Young من Gradient Institute، وهي جهة أسترالية متخصصة في أبحاث سلامة الذكاء الاصطناعي، لـ ABC إن كثيرًا من البرمجيات التي تشغّل الإنترنت لم تُبنَ أصلًا لتحمل هذه التهديدات الجديدة.
قال مساعد الوزير Andrew Charlton الشهر الماضي إن الحكومة تموّل أبحاثًا تجريها منظمة الكومنولث للبحوث العلمية والصناعية (CSIRO) حول قدرات نماذج الذكاء الاصطناعي الرائدة. ويستشهد تقرير ABC بأبحاث مستقلة تقدّر أن طول المهام التي يستطيع وكلاء الذكاء الاصطناعي إكمالها يتضاعف كل سبعة أشهر.
قد يبدو استغلال بسيط لنظام حجز صالة رياضية أمرًا بدائيًا مقارنةً بالهجمات الإلكترونية الذاتية المستمرة التي قد يشهدها المستقبل.