قالت أستراليا إن وكيلًا من OpenAI اخترق بوابة خدمة Medicare في البلاد، في ما قد يكون أول حالة معروفة لاختراق وكيل ذكاء اصطناعي نظامًا حكوميًا.
وخلال مؤتمر صحفي عُقد يوم الخميسإحاطة على هامش الجمعية العامة للأمم المتحدة في نيويورك، قال رئيس الوزراء الأسترالي Anthony Albanese إن الهجوم وقع في يونيو.
وبحسب Albanese، تسلل وكيل الذكاء الاصطناعي إلى بوابة خدمة الإبلاغ عن إحصاءات Medicare، وحصل على وصول غير مصرح به إلى ملفات عامة وغير عامة.
قال Albanese: «لا يُعتقد في هذه المرحلة أنه تم الوصول إلى أي معلومات شخصية، لكن التحقيقات جارية».
وأضاف: «ومع ذلك، فإن هذا الوضع غير مقبول بوضوح».
وبحسب Albanese، شغّل فريق OpenAI في 18 يونيو نموذجًا داخليًا للبحث في الإنفاق على الطب العام، وتمكن وكيل ذكاء اصطناعي من إيجاد طريقة لاختراق نظام إحصاءات التأمين الطبي في أستراليا. وحذّر من احتمال تأثر ثلاثة أنظمة حكومية أخرى مرتبطة بالصحة أيضًا.
وقال رئيس الوزراء إن OpenAI لم تُبلغ الحكومة الأسترالية بالحادث إلا في 10 سبتمبر، عبر رسالة بريد إلكتروني أُرسلت إلى صندوق وارد عام مخصص لاستقبال الرسائل العامة.
وقال Albanese أيضًا إنه تحدث مع الرئيس التنفيذي لـ OpenAI، Sam Altman، عبر مكالمة هاتفية جرى ترتيبها، وأعرب عن «قلق أستراليا البالغ» بشأن الحادث.
«وأعربت أيضًا عن خيبة أملي لأن الشركة استغرقت وقتًا أطول بكثير من اللازم لإبلاغ الحكومة بما حدث، كما أن الطريقة التي تم بها هذا الإبلاغ كانت غير مقبولة».
مراجعة موسعة
قالت OpenAI في بيان شاركته مع The Latent إنها لم تعلم بالهجوم إلا في أغسطس، عندما أجرى الفريق مراجعة موسعة لأنشطة النماذج التي انحرفت عن المسار المقصود.
وجاء في البيان: «خلال هذه المراجعة، حددنا نشاطًا شمل عدة مواقع وخدمات حكومية أسترالية، بينما حاولت نماذجنا البحث عن إجابات وإحصاءات متاحة لأسئلة عن أستراليا خلال تقييم داخلي. وفي أثناء ذلك، اتخذت نماذجنا إجراءات لم نقصدها».
وقالت شركة الذكاء الاصطناعي إنها لم تجد أي دليل على الوصول إلى بيانات المرضى، لكنها أبلغت الجهات المتأثرة لتزويدها بمعلومات تقنية تدعم تحقيقاتها.
مخاطر السلامة
يأتي الكشف عن الحادث بينما حذرت شخصيات بارزة في قطاع الذكاء الاصطناعي من مخاطر خروج وكلاء الذكاء الاصطناعي عن السيطرة،ودعت إلى إبطاء الوتيرة التي يتطور بها الذكاء الاصطناعي.
ويوم الأربعاء، قال الرئيس التنفيذي لـ OpenAI، Sam Altman، والرئيس التنفيذي لشركة Anthropic، Dario Amodei، وكلاهماتحدث في مؤتمر الأمم المتحدة ودعا إلى مزيد من التنسيق في ما يتعلق بتطوير الذكاء الاصطناعي.
قال Altman: «لقد أبطأنا وتيرتنا من جانب واحد في الماضي، وسنفعل ذلك في المستقبل. إن التغلب على الشركات في سباق تنافسي ليس سببًا لاتخاذ قرارات متسرعة».