الرموز والسياق والتمثيل

كيف يقرأ النموذج النص ويحتفظ به: الرموز ونوافذ السياق والتضمينات وحدود المعرفة الزمنية، بشرح موجه لمن يستخدم أدوات الذكاء الاصطناعي.

تعلّم

الرموز والسياق والتمثيل

مفهومما الرمز المميز في الذكاء الاصطناعي؟الرمز المميز في الذكاء الاصطناعي هو عنصر واحد من المفردات التي يستخدمها نموذج لغوي كبير (LLM) لتمثيل النص وإنشائه. وبحسب مُجزِّئ الرموز المميزة في النموذج، قد يقابل الرمز كلمةً، أو جزءًا من كلمة، أو علامة ترقيم، أو مسافة، أو حتى جزءًا من محرف مُرمَّز.
مفهومما رموز الإدخال؟رموز الإدخال هي الرموز التي يتلقاها النموذج ويعالجها قبل أن يبدأ في توليد الاستجابة التالية. وهي تأتي من الطلب الكامل الموجَّه إلى النموذج، وليس من أحدث الكلمات التي كتبتها فقط.
مفهومما رموز الاستدلال؟رموز الاستدلال هي الرموز التي ينشئها نموذج الذكاء الاصطناعي أثناء عمله للوصول إلى إجابة، وهي منفصلة عن نص الإجابة الذي تراه. وتمثل خطوات إضافية ينشئها النموذج، مثل التخطيط أو التحقق أو تجربة نهج ما، وقد تُحتسب ضمن الاستخدام والحدود حتى عندما تخفيها الخدمة.
مفهومما نافذة السياق؟نافذة السياق هي الحد الأقصى من المادة المُحوَّلة إلى رموز (tokens) التي يمكن لنموذج ذكاء اصطناعي استخدامها أثناء إنتاج استجابة واحدة. في كثير من واجهات برمجة تطبيقات نماذج اللغة، تشمل هذه السعة المُدخَلات والمخرجات المُولَّدة، مع أن مزوّدي الخدمة قد يفرضون أيضًا حدودًا منفصلة للمُدخَلات أو المخرجات.
مفهومما هو حدّ معرفة الذكاء الاصطناعي؟حدّ معرفة الذكاء الاصطناعي هو التاريخ الذي يُتوقَّع حتى بلوغه أن تعكس المعرفة المضمَّنة في النموذج بيانات تدريبه. وهو حدّ تقريبي، وليس ضمانًا بأن النموذج يعرف كل حقيقة سابقة، أو بأن منتج الذكاء الاصطناعي لا يستطيع جلب معلومات لاحقة.
مفهومما هي رموز الإخراج؟رموز الإخراج هي الوحدات التي ينشئها النموذج أثناء إنتاج استجابة. وهي تشكّل عادةً النص أو التعليمات البرمجية أو البيانات المنظّمة أو تعليمات الأدوات التي تتلقاها، مع أن المزوّد قد يحتسب أيضًا الاستدلال المخفي ضمن استخدام الإخراج.
مقارنةمقارنة رموز الإدخال ورموز الإخراج ورموز الاستدلالرموز الإدخال هي ما يتلقّاه النموذج، ورموز الإخراج هي ما يُنشئه، أما رموز الاستدلال فهي رموز يُنشئها النموذج داخليًا ويستخدمها للوصول إلى إجابة. لكن رموز الاستدلال تكون غالبًا جزءًا من استخدام الإخراج، حتى عندما تعرضها واجهة API كتفصيل منفصل.
مقارنةنافذة السياق مقابل حدّ المعرفةتحدّ نافذة السياق مقدار المعلومات التي يمكن لنموذج ذكاء اصطناعي استخدامها في طلب واحد، بينما يصف حدّ المعرفة مدى حداثة معرفته المضمّنة. الأولى سعة تُقاس بالرموز، أما الثاني فهو تاريخ مرتبط بالتدريب.