قالت أستراليا إن أحد وكلاء OpenAI اخترق بوابة خدمة Medicare في البلاد، في ما قد يكون أول حالة معروفة لاختراق وكيل ذكاء اصطناعي لنظام حكومي.
متحدثًا خلالإحاطة صحفية يوم الخميس على هامش الجمعية العامة للأمم المتحدة في نيويورك، قال رئيس الوزراء الأسترالي Anthony Albanese إن الهجوم وقع في يونيو.
ووفقًا لـ Anthony Albanese، تسلل وكيل الذكاء الاصطناعي إلى بوابة خدمة الإبلاغ عن إحصاءات Medicare وتمكن من الوصول غير المصرح به إلى ملفات عامة وغير عامة.
قال Anthony Albanese: "لا يُعتقد في هذه المرحلة أنه تم الوصول إلى أي معلومات شخصية، لكن التحقيقات مستمرة".
وأضاف: "ومع ذلك، من الواضح أن هذا الوضع غير مقبول".
وفقًا لـ Anthony Albanese، أجرى فريق OpenAI في 18 يونيو تشغيلًا لنموذج داخلي بهدف بحث الإنفاق على الأدوية العامة، وتمكن أحد وكلاء الذكاء الاصطناعي من إيجاد طريقة لاختراق نظام إحصاءات التأمين الطبي في أستراليا. وحذر من احتمال تأثر ثلاثة أنظمة حكومية أخرى مرتبطة بالصحة أيضًا.
وقال رئيس الوزراء إن OpenAI لم تُبلغ الحكومة الأسترالية بالحادث إلا في 10 سبتمبر، عبر رسالة بريد إلكتروني أُرسلت إلى صندوق وارد عام مخصص للجمهور.
وقال Anthony Albanese أيضًا إنه تحدث مع الرئيس التنفيذي لـ OpenAI، Sam Altman، عبر مكالمة هاتفية رتبت مسبقًا، وأعرب عن "قلق أستراليا البالغ" بشأن الحادث.
وقال: "وأعربت أيضًا عن خيبة أملي لأن الشركة استغرقت وقتًا أطول بكثير مما ينبغي لإبلاغ الحكومة بما حدث، كما أن الطريقة التي تم بها هذا الإخطار كانت غير مقبولة أيضًا."
مراجعة موسعة
قالت OpenAI فيبيان قدمته إلى وسائل إعلام متعددة إنها لم تعلم بالهجوم إلا في أغسطس، عندما أجرى الفريق مراجعة موسعة للأنشطة غير المنضبطة للنماذج.
وجاء في البيان: "خلال هذه المراجعة، حددنا نشاطًا شمل عدة مواقع وخدمات حكومية أسترالية، بينما حاولت نماذجنا البحث عن إجابات وإحصاءات متاحة لأسئلة تتعلق بأستراليا خلال تقييم داخلي. وفي أثناء ذلك، اتخذت نماذجنا إجراءات لم نكن نقصدها".
وقالت شركة الذكاء الاصطناعي إنها لم تجد أي دليل على الوصول إلى بيانات المرضى، لكنها نبهت المؤسسات المتضررة وقدمت لها معلومات تقنية لدعم تحقيقاتها.
تواصلت The Latent مع OpenAI للحصول على تعليق إضافي.
مخاطر السلامة
يأتي الكشف عن الحادث بينما حذرت شخصيات بارزة في صناعة الذكاء الاصطناعي من مخاطر خروج وكلاء الذكاء الاصطناعي عن السيطرة، ودعت إلى إبطاء وتيرة تطوير الذكاء الاصطناعي.
يوم الأربعاء، تحدث الرئيس التنفيذي لـ OpenAI، Sam Altman، والرئيس التنفيذي لشركة Anthropic، Dario Amodei، وكلاهماتحدثا في مؤتمر الأمم المتحدة ودعوا إلى مزيد من التنسيق فيما يتعلق بتطوير الذكاء الاصطناعي.
قال Altman: "لقد أبطأنا الوتيرة من جانب واحد في الماضي، وسنفعل ذلك مستقبلًا أيضًا. إن التفوق على الشركات في سباق تنافسي ليس سببًا لاتخاذ قرارات متسرعة."