ماهيّة معلمات النموذج
معلمات النموذج هي قيم تنتمي إلى النموذج ويتعلمها من البيانات. وهي القيم التي يعدّلها التدريب ويستخدمها الاستدلال.
بالنسبة إلى نموذج خطي بسيط،
[
y = wx + b
]
فإن كلًا من (w) و(b) معلمتان. يتعلمهما النموذج بدلًا من تلقيهما كمدخلات جديدة مع كل تنبؤ.
تخزّن الشبكات العصبية المعلمات في موترات، وهي مصفوفات متعددة الأبعاد من الأرقام. وقد يحتوي موتر واحد على العديد من المعلمات العددية المفردة. وعندما يوصف نموذج بأنه يضم عددًا معينًا من المعلمات، يشير ذلك العدد عادةً إلى القيم العددية المفردة عبر موترات معلماته، لا إلى عدد الموترات.
ماهيّة أوزان النموذج
لأوزان النموذج معنيان شائعان.
بالمعنى الرياضي الضيق، يضرب الوزن مدخلًا أو قيمة وسيطة. في (y = wx + b)، يكون (w) هو الوزن و(b) هو الانحياز. كلاهما معلمتان، لكن أحدهما فقط وزن.
بالمعنى البرمجي الأوسع، تعني «الأوزان» الحالة العددية المخزّنة التي تجعل النموذج المدرَّب يتصرف بالطريقة التي يتصرف بها. وقد يحتوي «ملف أوزان» على مصفوفات الأوزان والانحيازات، وأحيانًا موترات مستديمة أخرى. وتصف التسمية الحزمة، لا الدور الرياضي لكل رقم بداخلها.
التمييز
القاعدة الأكثر موثوقية هي:
الوزن هو عادةً نوع من المعلمات، لكن «أوزان النموذج» غالبًا ما تكون اختصارًا للحالة المتعلَّمة الكاملة للنموذج.
| Context | “Parameters” usually means | “Weights” usually means |
|---|---|---|
| A layer equation | All learned values, including weights and biases | Values multiplied by inputs or activations |
| A parameter count | The number of learned scalar values across parameter tensors | Often used loosely as a synonym for the same count |
| A framework API | Registered model values that may be trainable or frozen | A framework-specific collection that may include biases and non-trainable state |
| A model download or checkpoint | Learned values, if the term is used at all | The saved tensors needed to reproduce the trained model’s behavior |
يصف الجدول الاصطلاحات، وليس معيارًا عالميًا. راجع الصيغة القريبة أو تعريف API أو مواصفات الملف عندما تكون الدقة مهمة.
مثال عملي
لنفترض أن طبقة كثيفة تستقبل ثلاث قيم دخل وتنتج قيمتي خرج. وتحسب ما يلي:
[
\mathbf{y} = \mathbf{x}\mathbf{W} + \mathbf{b}
]
مصفوفة الأوزان (\mathbf{W}) شكلها (3 \times 2)، ولذلك فهي تحتوي على ستة أوزان عددية مفردة. ويحتوي متجه الانحياز (\mathbf{b}) على انحيازين عدديين مفردين.
ولذلك تحتوي الطبقة على:
- 6 أوزان عددية مفردة
- 2 من قيم الانحياز العددية المفردة
- 8 معلمات عددية مفردة إجمالًا
إذا حفظت مكتبة أوزان هذه الطبقة، فستتضمن المجموعة المحفوظة عادةً كلًا من (\mathbf{W}) و(\mathbf{b}). لم يتغير شيء في الرياضيات؛ الذي تغيّر هو نطاق كلمة «الأوزان» فقط.
متى تكون الصياغة مهمة
يهم هذا التمييز الضيق عند قراءة معادلة، أو تنفيذ طبقة، أو التحقق من عدد المعلمات. فإذا أحصى شخصٌ الإدخالات الموجودة في مصفوفات الأوزان فقط، فقد يقلل من عدد معلمات النموذج بإغفال الانحيازات وموترات المعلمات المتعلَّمة الأخرى.
يهم المعنى الأوسع عند تنزيل نموذج أو تحميله أو تجميده أو مشاركته. فقد تطلق إحدى أطر العمل على كل متغير طبقة مستديم اسم «وزن». وقد تتضمن نقطة التحقق أيضًا مخازن مؤقتة مستخدمة أثناء الاستدلال، رغم أن التدريب لم يحسّنها بوصفها معلمات.
ويضيف التجميد مصدرًا آخر للالتباس. فالمعلمة المجمّدة لا تعود تُحدَّث أثناء دورة التدريب تلك، لكنها تظل جزءًا من النموذج وتواصل التأثير في مخرجاته. ولذلك قد ينتج عن «المعلمات القابلة للتدريب» و«جميع المعلمات» عددان مختلفان للنموذج نفسه.
يختلف أيضًا عدد المعلمات عن حجم نقطة التحقق؛ فحجم الملف يعتمد على كيفية ترميز كل قيمة، وما إذا كانت الموترات قد كُمّمت أو شُوركت، وما إذا كانت نقطة التحقق تحتوي على حالة إضافية. ولا يمكنك استنتاج أحد القياسين من الآخر بشكل موثوق من دون تفاصيل التنسيق.
ما الذي يخلطه الناس
«الأوزان» تستثني الانحيازات دائمًا
هذا صحيح في صيغة تسمي حدَّي (W) و(b) كلٌّ منهما على حدة. لكنه غالبًا غير صحيح في لغة أطر العمل ونقاط التحقق، حيث يمكن أن تشير «الأوزان» إلى المجموعة التي تحتوي على كليهما.
«المعلمات» تعني إعدادات التدريب
معلمات النموذج هي قيم متعلَّمة داخل النموذج. أما الإعدادات المختارة لعملية التدريب، مثل معدل التعلم، فهي معلمات فائقة. وتشابه الأسماء لا يجعلهما النوع نفسه من القيم.
المزيد من المعلمات يعني نموذجًا أفضل
يبيّن عدد المعلمات عدد القيم العددية المفردة المتعلَّمة التي يحتوي عليها النموذج. لكنه لا يبيّن مدى فائدة البنية، أو جودة بيانات التدريب، أو مدى أداء النموذج في مهمتك.
ما الذي يمكنك قراءته لاحقًا
اقرأ ما معلمات النموذج؟ لمعرفة كيفية عدّ القيم المتعلَّمة واستخدامها عبر النموذج. واقرأ ما أوزان النموذج؟ لمعرفة كيفية تشكيل الأوزان لمخرجات الطبقة وكيفية استخدام المصطلح في ملفات النموذج.