كيفية عمل رموز الاستدلال
يتضمن الطلب العادي جانبين واضحين: الرموز التي ترسلها ورموز المخرجات التي ينشئها النموذج. ويمكن للنموذج القادر على الاستدلال تقسيم مخرجاته المُنشأة إلى مرحلة وظيفية أخرى:
- يقرأ المُدخلات.
- ينشئ رموز استدلال لمعالجة المهمة.
- ينشئ الإجابة النهائية.
هذا التصور ذو الخطوات الثلاث مفيد، لكنه ليس شاملاً. فقد تستدل بعض النماذج بين استدعاءات الأدوات أو بين أجزاء من المخرجات الظاهرة، بدلاً من إكمال مسودة خاصة واحدة متصلة أولاً.
تصف كلمة الاستدلال الغرض الذي تُستخدم من أجله الرموز المُنشأة. ولا يعني ذلك أن العمليات الحسابية الأخرى للنموذج تتوقف، أو أن النماذج العادية لا تنفذ أي استدلال على الإطلاق. فكل نموذج ينفذ عمليات حسابية عددية لاختيار رمزه التالي. وتتمثل السمة الخاصة هنا في أن النموذج ينفق رموزاً مُنشأة على عمل وسيط قبل الرموز المخصصة للمستخدم أو بينها.
يمكن للتدريب أن يشجع هذا السلوك. فعلى سبيل المثال، قد يكافئ التعلم المعزز الإجابات النهائية الصحيحة، ويدفع النموذج إلى تطوير أنماط مُنشأة مثل التحقق من نتيجة، أو تغيير الاستراتيجية، أو إعادة النظر في خطوة سابقة. ولذلك تعني زيادة رموز الاستدلال مزيداً من العمل أثناء الاستدلال، لا مزيداً من التدريب أو تغييراً في المعرفة المخزنة لدى النموذج.
الاستدلال المخفي والملخصات الظاهرة مختلفان
«رمز الاستدلال» مصطلح شامل، وليس معياراً موحداً بين جميع موفري الخدمة.
تبلغ OpenAI عن عدد رموز الاستدلال، لكنها لا تتيح الاستدلال الخام عبر واجهة API الخاصة بها. ويمكن لـ Google إرجاع ملخص لأفكارها وتوقيع غير شفاف يمثل حالة الاستدلال. أما واجهات Anthropic وعناصر التحكم فيها فتختلف باختلاف النموذج؛ إذ يتيح بعضها تفكيراً ملخصاً، ويستخدم بعضها الآخر جهداً تكيفياً بدلاً من ميزانية رموز ثابتة.
ينشأ عن ذلك ثلاثة أشياء متميزة:
- رموز الاستدلال الخام: العمل الوسيط المُنشأ.
- ملخص الاستدلال: عرض موجز يُنشأ للمستخدم أو المطور.
- الإجابة النهائية: الاستجابة المخصصة لإكمال الطلب.
الملخص ليس نصاً حرفياً لكل رمز من رموز الاستدلال الخام. كما أن إخفاء التتبع الخام لا يعني أن الرموز كانت مجانية أو غير موجودة. ولمعرفة ما الذي استخدمه الطلب، راجع البيانات الوصفية للاستخدام في واجهة API بدلاً من عدّ الكلمات المعروضة على الشاشة.
مثال على استخدام الرموز
لنفترض أن تقرير الاستخدام يقول:
- رموز المُدخلات: 75
- إجمالي رموز المخرجات: 1,186
- رموز الاستدلال ضمن المخرجات: 1,024
يكون الجزء غير الخاص بالاستدلال من المخرجات المُنشأة:
1,186 − 1,024 = 162 رمزاً
لم يستخدم الطلب 1,186 رمزاً للإجابة بالإضافة إلى 1,024 رمزاً للاستدلال. فرُموز الاستدلال البالغ عددها 1,024 مضمنة بالفعل في إجمالي المخرجات البالغ 1,186 رمزاً.
يوضح هذا الفرق كيف يمكن لإجابة موجزة أن يكون لها عدد مخرجات أكبر بكثير مما يوحي به نصها الظاهر. تختلف أسماء الحقول بين واجهات API، لكن ابحث عن عدد رموز الاستدلال أو التفكير المتداخل في تفاصيل استخدام الاستجابة.
لماذا تهم رموز الاستدلال
التكلفة
يفرض موفرو الخدمة الرئيسيون عموماً رسوماً على رموز الاستدلال أو التفكير باعتبارها مخرجات مُنشأة. ولذلك قد تكلف إجابة نهائية قصيرة أكثر مما تقدره استناداً إلى طولها الظاهر. وتختلف الأسعار الحالية وقواعد الاحتساب باختلاف موفر الخدمة، لذا استخدم وثائق التسعير والاستخدام الخاصة به لإجراء حساب فعلي للتكلفة.
حدود المخرجات والسياق
يحتاج الاستدلال إلى مساحة. ويحتسب موفرو الخدمة عادةً رموز الاستدلال ضمن حد المخرجات أو ميزانية السياق أو كليهما. وإذا استُنفد حد التوليد أثناء الاستدلال، فقد ينتهي الطلب قبل إنتاج إجابة ظاهرة مفيدة.
ولهذا لا يمكن دائماً التعامل مع إعداد الحد الأقصى للمخرجات باعتباره «الحد الأقصى لطول الإجابة». فقد يحتاج إلى تغطية الاستدلال الوسيط بالإضافة إلى الاستجابة النهائية. وتختلف القاعدة الدقيقة باختلاف واجهة API.
زمن الاستجابة
رموز الاستدلال عمل مُنشأ. ويتطلب إنشاء عدد أكبر منها عموماً توليداً تسلسلياً أطول قبل اكتمال الطلب، مما قد يزيد زمن الاستجابة. ولذلك تمثل إعدادات الجهد وميزانيات الرموز عناصر تحكم في مفاضلة بين الجودة والوقت والتكلفة، وليست مجرد إعدادات للأسلوب.
جودة المهمة
يكون الاستدلال الإضافي مفيداً بدرجة أكبر عندما تكافئ المهمة العمل الوسيط، مثل الرياضيات متعددة الخطوات، وتصحيح أخطاء التعليمات البرمجية، والتخطيط، والتحقق من القيود، أو سير العمل القائم على الأدوات. أما الاستخراج أو التنسيق البسيط فقد لا يستفيد منه كثيراً.
لا يعني المزيد أنه أفضل تلقائياً. فقد ينفق النموذج رموزاً كثيرة على مسار غير منتج، ومع ذلك يخطئ. قيّم النتيجة النهائية وفق المهمة التي تهمك، بدلاً من اعتبار عدد رموز الاستدلال مقياساً للجودة.
مفاهيم خاطئة شائعة
«رموز الاستدلال هي أفكار النموذج الخاصة»
هذه العبارة ملائمة، لكنها حرفية أكثر من اللازم. فرُموز الاستدلال هي تسلسلات وسيطة ينشئها النموذج. وقد تشبه حل المشكلات المكتوب، لكن وجودها لا يثبت تفكيراً أو فهماً أو وعياً ذاتياً شبيهاً بالبشر.
«إذا كنت أستطيع رؤية الاستدلال، فأنا أرى الرموز الخام»
ليس بالضرورة. فقد يعرض المنتج ملخصاً أو شرحاً مصفّى. وتميز وثائق موفر الخدمة بين هذه العروض والتتبع الداخلي الكامل المستخدم في الاحتساب.
«تستخدم إجابة من 500 رمز 500 رمز مخرجات»
هذا صحيح فقط إذا لم توجد رموز مُنشأة أخرى محتسبة ضمن المخرجات. وعند تفعيل الاستدلال، قد يشمل إجمالي الاستخدام الاستدلال المخفي بالإضافة إلى الإجابة.
«تخبرني الميزانية بالضبط بعدد الرموز التي سيستخدمها النموذج»
يعتمد ذلك على موفر الخدمة والنموذج. فقد يكون الإعداد حداً أقصى صارماً، أو هدفاً، أو مستوى للجهد. وتكيّف بعض النماذج مقدار استدلالها وفق المهمة. تعامل مع عدد الاستخدام المُعاد باعتباره القياس، ومع إعداد الطلب باعتباره أداة تحكم.
إلى أين تذهب بعد ذلك
اقرأ ما رموز المخرجات؟ لفهم فئة الاحتساب الأوسع التي تتضمن غالباً رموز الاستدلال. ثم استخدم رموز المُدخلات مقابل رموز المخرجات مقابل رموز الاستدلال عندما تحتاج إلى مقارنة الفئات الثلاث كلها في طلب واحد.