أتاحت Moonshot AI الأوزان الخاصة بـ Kimi K3 عبر الإنترنت في 27 يوليو، ما جعل أكبر نموذج مفتوح جرى إطلاقه على الإطلاق متاحًا مجانًا لأي شخص لتنزيله. وهو نظام يضم 2.8 تريليون معلمة من شركة ناشئة في بكين تأسست في 2023، ويقرأ الصور إلى جانب النصوص، ويقبل مليون توكن في استعلام واحد، وهو ما يكفي لاحتواء قاعدة شيفرة كاملة دفعة واحدة.

ما جعل القطاع ينتبه هو موقعه على لوحات الصدارة. تضع جهات تتبع مستقلة K3 قرب قمة المجال، خلف Claude Fable وGPT-5.6 Sol Max فقط على مؤشر الذكاء لدى Artificial Analysis، وفي المركز الأول على Frontend Code Arena، وذلك بجزء بسيط من تكلفة التشغيل. وتعني الأوزان المفتوحة أن أي شخص يمكنه تنزيله وفحصه وتكييفه والاحتفاظ به داخل شبكته الخاصة، وهو ما لا تسمح به أي من النماذج المغلقة الرائدة مهما كان الثمن. وهذا هو الجزء الذي أقلق كثيرين الأسبوع الماضي، وهو سبب قراءة هذا الإصدار على أنه خطوة تنافسية ضد OpenAI وAnthropic، لا مجرد محطة بحثية.

لكن هناك عقبة تحظى باهتمام أقل. فكونه قابلًا للتنزيل لا يعني أنه قابل للتشغيل. إذ يبلغ حجم الملفات 1.56 تيرابايت، ما يعني عمليًا الحاجة إلى رف متعدد العقد من وحدات معالجة الرسومات الخاصة بمراكز البيانات. وبالنسبة إلى من لا يملكون ذلك، كانت الأوزان المفتوحة في الغالب مجرد مسألة شكلية تقنية.

نشرت Pipe Network منفذًا مفتوح المصدر يضيق هذه الفجوة، عبر إتاحة نسخة عاملة من K3 على حاسوب مكتبي واحد من Apple Silicon.

كانت العقبة دائمًا هي الذاكرة. فحتى في أكثر صوره ضغطًا، يحتاج K3 إلى نحو 870 جيجابايت. وأكبر جهاز Mac موجود، وهو M3 Ultra Mac Studio، يصل حده الأقصى إلى 512 جيجابايت من الذاكرة الموحدة. وهذه ليست فجوة بسيطة.

قطعتان هندسيتان تسدان هذه الفجوة.

بث التحويل

قبل أن يتمكن أي نموذج من العمل على Mac أصلًا، يجب إعادة كتابة ملفاته إلى الصيغة التي يقرأها برنامج Apple للتعلم الآلي. تقوم الأدوات القياسية بذلك عبر تحميل النموذج كاملًا إلى الذاكرة، وتغييره، ثم حفظه مجددًا. ينجح ذلك مع النماذج الصغيرة التي يشغلها الناس في المنازل. لكنه لا يمكن أن ينجح هنا، لأن K3 في صورته الخام يبلغ 5.6 تيرابايت، ولا توجد أي آلة معروضة للبيع تملك ذاكرة تقترب حتى من هذا الحجم.

النموذج ليس كتلة صلبة واحدة. بل هو رصة من الأقسام، وK3 يضم 93 قسمًا منها، يؤدي كل منها جزءًا من العمل قبل تمريره إلى التالي. ويستفيد محول هذا المنفذ من ذلك. فهو يحمّل قسمًا واحدًا، ويترجمه، ويكتبه إلى القرص، ثم يتخلص منه، وبعدها ينتقل إلى التالي. وفي أي لحظة لا يكون من الضروري وجود النموذج كاملًا دفعة واحدة، لذا لا تحتاج الآلة التي تنجز العمل إلى أكثر من بضع عشرات من الجيجابايتات من الذاكرة بدلًا من آلافها. إنها أعمال بنية تحتية أكثر من كونها شيئًا لامعًا، لكن لا شيء آخر في المشروع يحدث من دونها.

تشذيب الخبراء الذين لا تستخدمهم

معظم K3 لا يفعل شيئًا في أي لحظة معينة، وهذا مقصود. فبدلًا من شبكة واحدة هائلة للأغراض العامة، بُني على هيئة لوحة من المتخصصين الضيقين. يحتوي كل واحد من أقسامه الـ93 على 896 منهم، ويختار موجّه أفضل 16 منهم للكلمة التي تجري معالجتها. أما البقية فلا تشارك. وإذا جمعت ذلك كله، فستجد أن نحو 98% من الحجم الكلي للنموذج على القرص هم متخصصون في وضع الخمول في أي لحظة، ومع ذلك يشغلون مساحة.

يُطلق على هؤلاء المتخصصين اسم الخبراء، وREAP، وهي تقنية من Cerebras، هي طريقة لتحديد أيهم يجب الإبقاء عليه. فهي تمرر عبر النموذج عينة من نوع النصوص التي تهتم بها فعلًا، وتراقب أي الخبراء يقومون بالعبء الأكبر، وتتخلص من الذين لا يبررون المساحة التي يشغلونها. وعند تطبيقها على K3، ينخفض الحجم من 1.56 تيرابايت إلى 350 جيجابايت، وهو ما يتسع داخل Mac Studio مع مساحة إضافية.

المتن هو المنتج

أكثر النتائج إثارة للاهتمام في المستودع هي أن نص العينة الذي تعاير عليه يحدد ما الذي يستطيع النموذج النهائي فعله.

قاس الفريق الخبراء الذين تعتمد عليهم أنواع مختلفة من المحتوى. تتجمع اللغات الأوروبية معًا. وتتجمع الشيفرة معًا. أما الصينية والشيفرة فلا يوجد بينهما تقريبًا أي تداخل، أقل مما قد تتوقعه من الاحتمال العشوائي.

تظهر النتائج في المخرجات. فالبنية التي جرت معايرتها على الإنجليزية والشيفرة تفقد الصينية تمامًا وتبدأ في تكرار نفسها. والبنية التي جرت معايرتها على الصينية فقط تكتب صينية سليمة ثم تفشل في إنتاج شيفرة عاملة. أما البنية التي جرت معايرتها على كليهما فتحافظ على الاثنين. أنت لا تضغط نموذجًا فحسب، بل تختار أي قدراته ستنجو.

يحرص الفريق على الإشارة إلى أن هذا يستند إلى عدد صغير من المطالبات الاختبارية بدلًا من تقييم رسمي، وأن نسخة سابقة من التجربة نفسها أنتجت استنتاجًا تبين لهم لاحقًا أنه خاطئ.

التحفظ الصريح

التدريب هو ما يعلّم النموذج. أما الاستدلال فهو ما يحدث في كل مرة تستخدم فيها أحدها، أي عملية تحويل مطالبتك إلى إجابة، كلمة تلو الأخرى. وتتطلب كل واحدة من تلك الكلمات أن تجتاز الآلة جزءًا كبيرًا من أوزان النموذج، ولهذا فإن سرعة الاستدلال هي في معظمها مسألة مدى سرعة الحاسوب في نقل البيانات أكثر من كونها مسألة مدى ذكائه.

السرعة هنا تتراوح بين 0.14 و0.20 توكن في الثانية. وتستغرق الجملة الواحدة دقائق. ويتطلب كل لفظ يجري توليده قراءة نحو 87 جيجابايت من الذاكرة، لذا فهذا سقف تفرضه العتاد لا خلل برمجي، كما أن التشذيب بشكل أكثر شدة لا يحل المشكلة. فنسخة أصغر بمقدار 100 جيجابايت عملت بسرعة أعلى بالكاد.

هذا هو الدرس الحقيقي للمشروع. كان تكييف النموذج مع الجهاز مشكلة قابلة للحل برمجيًا. أما جعله قابلًا للاستخدام فلم يكن كذلك، وهذا يوضح بدقة معقولة مقدار العتاد الذي لا يزال نموذج بهذا الحجم يتطلبه قبل أن تصبح كلمة "محلي" وصفًا ذا معنى. هذه أداة دفعية للمهام التي تبدأ تشغيلها ثم تعود إليها، وليست روبوت دردشة. لا يزال عرض نطاق الذاكرة في أجهزة المستهلكين يرتفع، ومع ذلك فقد أُنجزت الآن الأسس البرمجية وأصبحت متاحة للعامة متى ما لحق بها العتاد.

هناك أمران يعملان بسلاسة. لقد اختُبر مكوّن الرؤية في مقابل الشيفرة الخاصة بـ Moonshot وتطابقت النتائج ضمن حدود خطأ التقريب، لذا تعمل الصور من البداية إلى النهاية. كما أن الخبراء الذين بقوا مطابقون للأصول بتًا مقابل بت، لأن صيغة المصدر وصيغة Apple تصادف أنهما ترمّزان الأرقام بالطريقة نفسها. والمعلومة الوحيدة المفقودة هي عملية التقليم نفسها.

كما أن المستودع واضح على نحو غير معتاد بشأن ما لم يُختبر. فالنسخ الكاملة غير المُقلَّمة لم تُولّد ولو توكنًا واحدًا قط، لأنه لا يوجد حاسوب قادر على استيعابها.