النموذج الأساسي هو نموذج لتعلّم الآلة مُدرَّب على بيانات واسعة بحيث يمكن تكييفه لأداء العديد من المهام المختلفة، بدلًا من بنائه لمهمة واحدة فقط. وهو نقطة انطلاق قابلة لإعادة الاستخدام، وليس تطبيقًا مكتملًا.
النموذج الذهني المفيد
تصف كلمة «أساسي» موقع النموذج ضمن سلسلة.
broad training data
↓
pretraining
↓
foundation model
↙ ↓ ↘
prompt task fine-tuned
layer derivative
↘ ↓ ↙
downstream models and applicationsتتضمن القاعدة الأنماط التي تعلّمها النموذج أثناء التدريب المسبق واسع النطاق. وتحول خطوة لاحقة تلك الأنماط نحو مهمة معينة. فقد يصنّف أحد التكييفات تذاكر الدعم. وقد يجيب تكييف آخر عن الأسئلة. وقد يطابق تكييف ثالث الصور بالأوصاف المكتوبة.
هذا هو التمييز الأساسي: يمكن للنموذج أن يتمتع بقدرات واسعة من دون أن يكون جاهزًا لمنتج معين. وتكمن قيمة «القاعدة» في أن جهات بناء مختلفة يمكنها إعادة استخدامها بدلًا من البدء من الصفر في كل مهمة.
كيف يعمل النموذج الأساسي
أولًا، يجمع المطورون بيانات تدريب واسعة. وتعتمد دلالة «واسعة» على المجال المستهدف. فقد يتعلم نموذج لغوي من أنواع كثيرة من النصوص، بينما قد يتعلم نموذج أساسي للتصوير الطبي من فحوصات متنوعة وبيئات سريرية مختلفة. ولا يلزم أن تعني «واسعة» كل نوع من البيانات الموجودة.
بعد ذلك، يخضع النموذج للتدريب المسبق. وتستخدم نماذج أساسية كثيرة التعلّم الذاتي الإشراف: إذ توفر البيانات إشارة التعلّم الخاصة بها. ويمكن لنموذج نصي أن يتعلم من خلال التنبؤ بأجزاء النص المخفية أو التالية. ويمكن لنموذج يجمع بين الصور والنصوص أن يتعلم أي الأوصاف تتوافق مع أي الصور. ويختلف الهدف الدقيق، لكن الغاية هي تعلّم أنماط تظل مفيدة خارج نطاق مهمة ضيقة واحدة.
ينتج عن التدريب المسبق نقطة تحقق: مجموعة محفوظة من القيم التي تعلّمها النموذج. ويمكن بعد ذلك تكييف نقطة التحقق هذه بعدة طرق:
- التلقين يوفّر تعليمات أو أمثلة ضمن المدخلات. وهو يغيّر السلوك الفوري، لا القيم التي تعلّمها النموذج.
- إضافة طبقة خاصة بالمهمة تُرفق مكوّنًا صغيرًا يحوّل المخرجات الداخلية للنموذج إلى نتيجة معينة، مثل مجموعة من الفئات.
- الضبط الدقيق يواصل التدريب على مجموعة بيانات أضيق نطاقًا. وهو يغيّر بعض القيم المتعلَّمة أو كلها لتحسين الأداء في مهمة أو مجال معين.
- تكامل النظام يربط النموذج بالبحث وقواعد البيانات والأدوات والقواعد وواجهة الاستخدام. ويغيّر ذلك ما يستطيع التطبيق فعله حتى إذا ظل النموذج الأساسي مجمّدًا.
يمكن الجمع بين هذه الأساليب. ولا يضمن أيٌّ منها أن تكون النتيجة المكيَّفة دقيقة أو آمنة أو مناسبة للاستخدام المقصود. ولا يزال كل استخدام لاحق يحتاج إلى تقييم خاص به.
مثال عملي
تخيّل أن شركة تبدأ بنموذج لغوي مُدرَّب مسبقًا على نطاق واسع، وتريد التعامل مع تذاكر دعم العملاء.
لإنشاء نموذج أولي سريع، يزوّد الفريق النموذجَ بتلقين يتضمن تسميات التوجيه المسموح بها وبعض الأمثلة. ولا تتغير القيم التي تعلّمها النموذج.
ولتحقيق توجيه أكثر اتساقًا، يضيف الفريق طبقة تصنيف ويُجري ضبطًا دقيقًا للنموذج باستخدام تذاكر سابقة. وينشئ ذلك نموذجًا مشتقًا خاصًا بالمهمة من النموذج الأصلي.
ولإنشاء مساعد دعم موجّه للعملاء، يربط الفريق النموذجَ بمقالات المساعدة المعتمدة، وأدوات الحسابات، وفحوصات الأذونات، وواجهة استخدام. وتكون النتيجة نظام ذكاء اصطناعي مبنيًا حول النموذج، لا النموذج الأساسي نفسه فحسب.
دعمت نقطة التحقق الابتدائية نفسها ثلاث نتائج: سلوكًا موجّهًا بالتلقين، ونموذجًا مكيَّفًا، وتطبيقًا مكتملًا. وإعادة الاستخدام هذه هي ما يجعل النموذج نموذجًا أساسيًا.
هذا النمط ليس افتراضيًا. فقد كيّف العمل الأصلي على BERT نموذجًا لغويًا واحدًا مُدرَّبًا مسبقًا مع 11 مهمة لغوية، غالبًا بإضافة طبقة مخرجات واحدة فقط. وأظهرت أعمال لاحقة أشكالًا مختلفة من إعادة الاستخدام: إذ نفّذ GPT-3 مهامًا من خلال تعليمات نصية وأمثلة من دون ضبط دقيق، بينما استخدم CLIP تسميات باللغة الطبيعية لتصنيف صور لم يُدرَّب تحديدًا على تصنيفها.
لماذا تهم النماذج الأساسية؟
تنقل النماذج الأساسية قدرًا كبيرًا من التعلّم المكلف والواسع إلى مرحلة تدريب مسبق مشتركة. ويمكن للفرق التي تعمل على المهام اللاحقة أن تركز جهودها على بيانات المهمة، والتقييم، وتصميم المنتج، ووسائل الحماية.
تخلق هذه القاعدة المشتركة أثرًا مضاعفًا. فقد يعود تحسين النموذج الأساسي بالنفع على استخدامات كثيرة. لكنها تخلق أيضًا خطر التركّز. فإذا احتوت القاعدة على تحيز أو ثغرة أمنية أو إخفاق منهجي، فقد ترثه نماذج ومنتجات مكيَّفة كثيرة. ويسمي الباحثون ذلك التجانس: إذ تصبح أنظمة كثيرة معتمدة على المجموعة الصغيرة نفسها من الأساليب أو النماذج الأساسية.
قد يقلل التكييف من مشكلة في حالة استخدام واحدة، لكنه لا يمحو تلقائيًا قيود النموذج الأساسي. وقد يخفي تطبيق مصقول الأصل المشترك من دون إزالته.
مفاهيم خاطئة شائعة
«النموذج الأساسي» يعني «نموذجًا لغويًا كبيرًا»
يُعرَّف النموذج اللغوي الكبير (LLM) بتركيزه على اللغة وحجمه. أما النموذج الأساسي فيُعرَّف بالتدريب المسبق واسع النطاق وإعادة الاستخدام في المهام اللاحقة. وكثير من نماذج LLM هي نماذج أساسية، لكن الفئة تشمل أيضًا نماذج للصور والصوت والروبوتات وعلم الأحياء، ونماذج تجمع بين أنواع البيانات.
كل نموذج أساسي يُنتج محتوى
الإنتاج ليس شرطًا في التعريف الأصلي. فقد ينتج النموذج الأساسي سمات قابلة لإعادة الاستخدام، أو يرتّب المدخلات أو يصنّفها، أو يربط بين النصوص والصور. وغالبًا ما تستخدم صفحات الموردين عبارة «نموذج أساسي» اختصارًا للنماذج التوليدية لأن تلك هي النماذج التي يبيعون منتجاتها، لكن هذا استخدام أضيق.
الحجم الكبير كافٍ
لا يوجد عدد موحّد للمعاملات يفصل النماذج الأساسية عن النماذج الأخرى. فالنموذج الكبير جدًا المدرَّب على مهمة ثابتة واحدة ليس بالضرورة نموذجًا أساسيًا. والاختبار الأقوى هو ما إذا كان قد تعلّم من بيانات واسعة، وما إذا كان يستطيع أن يكون قاعدة ذات معنى لمهام لاحقة متنوعة.
قد تحدد وثائق السياسات عتبات رقمية لفئة فرعية خاضعة للتنظيم، مثل «نموذج أساسي ثنائي الاستخدام». وتحدد تلك العتبات نطاق مصطلح السياسة المعني، لا الفئة التقنية بأكملها.
التلقين يدرّب النموذج
يوفّر التلقين العادي مدخلات مؤقتة لتفاعل واحد. أما الضبط الدقيق فيحدّث القيم المتعلَّمة من خلال تدريب إضافي. ويمكن لكليهما تكييف السلوك مع مهمة، لكن الأخير وحده يغيّر النموذج نفسه.
«أساسي» يعني موثوقًا
لا يشهد المصطلح بجودة النموذج. وقد اختاره مؤلفوه الأصليون جزئيًا للتأكيد على أن الأنظمة اللاحقة تعتمد على ما يوجد تحتها. ويمكن لقاعدة ضعيفة أن تنشر الإخفاقات بالفاعلية نفسها التي تنشر بها القاعدة القوية القدرات المفيدة.
«النموذج الأساسي» يوضح كيفية ترخيصه
لا يفعل ذلك. فقد تكون أوزان النموذج الأساسي قابلة للتنزيل، أو مقيّدة، أو لا يمكن الوصول إليها إلا عبر API. وتصف مصطلحات «مفتوح» و«مفتوح الأوزان» و«مغلق» إمكانية الوصول والترخيص، لا ما إذا كان النموذج يؤدي دورًا أساسيًا.
كيف يندرج ضمن النظام الأوسع
يقع النموذج الأساسي بين التدريب المسبق واسع النطاق والاستخدام المحدد.
يسبقه ما استُخدم لإنشاء نقطة التحقق من بيانات، وهدف التعلّم، وبنية، وقدرة حوسبية، وتقييم. ويلحق به التلقينات، والنماذج المشتقة المضبوطة دقيقًا، والمكوّنات الخاصة بالمهام، ومصادر الاسترجاع، وضوابط السلامة، والأدوات، وواجهات المستخدم.
يساعد الفصل بين هذه الطبقات على تقييم الادعاءات. فإذا استرجع مساعد حقيقة حديثة، فقد يكون مصدرها نظام بحث متصلًا، لا التدريب المسبق للنموذج. وإذا رفض روبوت محادثة طلبًا، فقد يصدر هذا السلوك عن تدريب النموذج، أو تعليمات النظام، أو مرشح خارجي، أو عدة طبقات مجتمعة. ولا يكشف المنتج الظاهر أي طبقة أدّت العمل.
إلى أين تذهب بعد ذلك؟
عندما تصادف تسمية «نموذج أساسي»، تحقّق من أمرين: ما إذا كان النموذج قد دُرِّب على نطاق واسع بما يكفي لدعم أكثر من مهمة ضيقة واحدة، وكيف يجري تكييفه في المنتج الذي تفحصه. وينبغي أن تساعدك بطاقة النموذج أو التقرير التقني على تحديد نطاق التدريب المسبق، والاستخدامات اللاحقة المقصودة، وأساليب التكييف، والقيود المعروفة.
إذا كانت هذه التفاصيل مفقودة، فلن تخبرك التسمية وحدها إلا بالقليل عن القدرة أو الموثوقية أو إمكانية الوصول أو السلامة.
اقرأ ما هو نموذج الذكاء الاصطناعي؟ للتعرّف على مفهوم النموذج بصورة أوسع، وما هو التدريب في الذكاء الاصطناعي؟ لمعرفة كيفية إنشاء المعاملات المتعلَّمة، وما هو الذكاء الاصطناعي التوليدي؟ للتعرّف على إحدى العائلات الرئيسية لتطبيقات النماذج الأساسية.