اخترق نموذج الذكاء الاصطناعي Gemini التابع لـGoogle ثلاث شركات أثناء اختباره في مايو، وأقرت الشركة بذلك يوم الجمعة عقب تقرير نشرته صحيفة وول ستريت جورنال.
تقول Google إن Gemini أوقف هجماته عندما أدرك أنه دخل إلى أنظمة شركات حقيقية. ومع ذلك، تضاف هذه الاختراقات إلى قائمة مطوري الذكاء الاصطناعي الذين تجاوزت تقييماتهم الأمنية الأهداف المحددة لها، عقب إفصاحات مماثلة عن حوادث اختراق شملت وكلاء ذكاء اصطناعي طورتها OpenAI وAnthropic وMeta.
كانت Irregular، وهي مختبر الأمن الذي يجري اختبارات الذكاء الاصطناعي، قد أنشأت شركات محاكاة لتهاجمها النماذج. لكن بيئة الاختبار سمحت للنماذج، عن غير قصد، بالوصول إلى الإنترنت المفتوح. وذكرت الصحيفة أن اسم شركة وهمية واحدًا على الأقل استُخدم في تمارين Irregular كان يعود أيضًا إلى شركة حقيقية.
تمكن Gemini من الدخول إلى نظام إحدى الشركات باستخدام القوة الغاشمة، إذ جرّب كلمات مرور حتى عثر على الصحيحة. ووفقًا لتقرير الصحيفة، تمكن من الوصول إلى شركتين أخريين باستخدام بيانات اعتماد عثر عليها في مستودعات عامة.
قالت Google إنها لم ترَ حاجة إلى الإفصاح عن الاختراقات علنًا لأنها لم تتسبب في أضرار ظاهرة للشركات.
كما كانت هناك فجوة زمنية بين إجراء الاختبارات ومعرفة Google بما حدث. وقالت Irregular إنها أبلغت المختبرات المعنية في أواخر يوليو، بينما قالت هيذر أدكنز لرويترز، نائبة رئيس هندسة الأمن في Google، إن الشركات الثلاث التي تعرضت للهجوم أُبلغت، وإن Google عملت مع شريكها في الاختبار على إدخال تعديلات على إجراءاتها.
قالت Irregular إن المشكلة كانت نفسها التي تسببت في حوادث طالت مختبرات ذكاء اصطناعي أخرى. وقال متحدث باسمها لرويترز إن جميع المشكلات المعروفة من جانبها حُلّت قبل أسابيع.
تختلف روايات تلك الحوادث. ففي تحقيقها في اختراق OpenAI لمنصة Hugging Face، وجدت METR أن نحو 700 وكيل شاركوا في هجوم نُسّق عبر لوحة رسائل غير مصرح بها، بل وطوّروا أساليب تواصل شبيهة بتلك الخاصة بالجماعات الطائفية بين وكلاء مختلفين. أما رواية Google لهجوم Gemini فتصف نموذجًا خلط بين أنظمة حقيقية وأهداف اختبار، ثم توقف بعدما اكتشف الخطأ.