فك الترميز التخميني: متى يسرّع نماذج اللغة وكيف تفعّله؟

بالنسبة إلى المطوّر، السؤال العملي هو: هل تتدفق الإجابة أسرع مع أعباء العمل الفعلية؟ أما مشغّل خدمة الاستدلال، فيحتاج إلى معرفة ما إذا كان هذا التحسن يصمد مع الطلبات المتزامنة وضغط الذاكرة. ولمن يشتري خدمة عبر واجهة API مستضافة، يبدأ الأمر بمعرفة ما إذا كان المزوّد يتيح هذا التحسين أو يوثّقه أصلًا.

جرت مراجعة التوثيق في 30 أكتوبر 2026: vLLM، وSGLang، وNVIDIA TensorRT-LLM. تتبع الأوامر أدناه التوثيق المتاح لهذه الأدوات؛ وهي أمثلة على الإعداد، وليست نتائج اختبارات أداء أجراها هذا المقال.

ما هو فك الترميز التخميني؟

يقترح مكوّن منخفض الكلفة الرموز التالية، ويقرر النموذج الهدف أيّها يدخل في الإجابة. والرمز وحدة نصية يعالجها النموذج، وغالبًا ما تكون جزءًا من كلمة. أما النموذج الهدف فهو النموذج الذي تريد الحفاظ على سلوكه.

تخيّل مساعدًا يصوغ جملة لمحرّر شديد التدقيق. يستطيع المساعد أن يسبق المحرّر في الكتابة، لكن القارئ لا يرى شيئًا قبل مراجعته. وتكمن الفائدة في أن النموذج الهدف يستطيع تقييم التتمة المقترحة دفعة واحدة، بدل انتظار خطوة توليد منفصلة لكل رمز جديد. وتصف NVIDIA العملية بأنها آلية لإعداد المسودة، تليها جولة تحقق يجريها النموذج الهدف. توثيق TensorRT-LLM

تمثّل الحروف في الرسم معرّفات الرموز. يقترح مولّد المسودة A B C. وعند استخدام فك الترميز الجشع، الذي يختار الرمز التالي الأعلى احتمالًا، لنفترض أن النموذج الهدف يقبل A B لكنه يفضّل X بعدهما. عندئذ تصبح الإجابة المعتمدة A B X. وتُستبعد أيضًا أي تتمة صيغت بعد الرمز المرفوض C، لأنها بُنيت على بادئة غير صحيحة.

أما عندما تُولَّد المخرجات بأخذ العينات، فالقبول أعقد من مجرد التأكد من أن النموذجين اختارا الكلمة نفسها. يستخدم أخذ العينات التخميني المعتاد احتمالات النموذج الهدف واحتمالات المقترح، مع توزيع تصحيحي عند رفض المقترح. وهذا التصحيح هو ما يحافظ على التوزيع الاحتمالي للنموذج الهدف. وتتيح الخوارزمية الأصلية أيضًا إضافة رمز من النموذج الهدف عند قبول المسودة كاملة. الورقة الأصلية لـ Leviathan وKalman وMatias

إذًا، يقدّم النموذج الأصغر مقترحات، ولا يتولى الإجابة بوصفه بديلًا احتياطيًا. ومع مُتحقّق دقيق، يُفترض أن يضر مولّد المسودة الضعيف بالسرعة، لا أن يتولى الإجابة دون أن تلاحظ.

ماذا يعني تسريع الإجابة من دون الاستعانة بنموذج أضعف؟

الضمان المطلوب هو الحفاظ على توزيع النموذج الهدف. ولا يعني ذلك الحصول على الإجابة العشوائية نفسها في كل تشغيل، أو إزالة أخطاء النموذج، أو تحسين استدلاله. ويوثّق vLLM تأثيرات عددية وأخرى مرتبطة بتجميع الطلبات قد تؤدي إلى اختلافات حتى عندما تكون الخوارزمية بلا فقد. ضمانات vLLM بشأن عدم الفقد

ثبّت أوزان النموذج الهدف وتكميمه وإعدادات أخذ العينات عند تقييم فك الترميز التخميني. وإلا فستغيّر عدة عوامل في الوقت نفسه، ولن تتمكن من تحديد التغيير المسؤول عن أي فرق في الجودة.

الأساليب الرئيسية وأين تجد توثيقها في كل محرك

اختر مولّد مقترحات يدعمه نموذجك الهدف وإصدار محرك الاستدلال الذي تستخدمه تحديدًا. تظل الآلية المشتركة هي إعداد مسودة ثم التحقق منها؛ وما يتغيّر هو مصدر المسودة.

نموذج مستقل لإعداد المسودة

يولّد نموذج لغوي أصغر الرموز المرشحة باستخدام أوزانه الخاصة. هذا هو الترتيب الأسهل فهمًا، لكنه يتطلب تحميل نموذج إضافي وتشغيله. والتوافق وتقارب المخرجات أساسيان هنا: فكون النموذج أصغر لا يجعله مفيدًا تلقائيًا. يتوقع vLLM عادةً أن يشترك النموذجان في مفردات الترميز، لكنه يوثّق أيضًا خيارًا محدودًا للعمل مع مفردات مختلفة. نماذج المسودة في vLLM

إذا كانت خدمتك تقترب بالفعل من حد الذاكرة المتاحة، فقد لا تكون إضافة نموذج آخر البداية المناسبة. أما إذا كانت الخدمة حساسة لزمن الاستجابة، ولديها سعة فائضة ومولّد مسودة ملائم، فهذه تجربة منضبطة تستحق التنفيذ.

فك الترميز التخميني باستخدام EAGLE

يرمز EAGLE إلى Extrapolation Algorithm for Greater Language-model Efficiency، ويستخدم مولّد مسودة مساعدًا ومدرّبًا يرتبط بالنموذج الهدف. يستعين هذا المولّد بالتمثيلات الداخلية للنموذج الهدف لاقتراح التتمة. وتتطلب هذه المكوّنات المتعلّمة، التي تُسمّى غالبًا رؤوسًا، نسخة أوزان متوافقة. ويميّز vLLM بين إعدادَي eagle وeagle3. توثيق EAGLE في vLLM

تعامل مع النموذج الهدف ونسخة أوزان EAGLE الخاصة به بوصفهما زوجًا متوافقًا. لا تختر نسخة أوزان لمجرد أن اسمها يتضمن عائلة النموذج نفسها. ينبغي أن يتضمن سجل النشر العائلة الصحيحة، ومراجعة النموذج، والتنفيذ المستخدم في محرك الاستدلال.

فك الترميز التخميني باستخدام MTP

يستفيد التنبؤ متعدد الرموز، أو MTP، من قدرة أصلية في النموذج على اقتراح رموز لاحقة. ويوثّقه vLLM كخيار لعائلات النماذج المدعومة، ويقدّم مثال تشغيل لا يحتاج إلى معرّف منفصل لنموذج مسودة. أما النموذج الذي لا يملك هذه القدرة فلن يكتسبها بمجرد ضبط method على mtp. توثيق MTP في vLLM

إذا كنت تشغّل بالفعل نسخة أوزان تدعم MTP، فجرّب إعدادها الموثّق قبل إضافة مولّد مسودة مستقل لا يرتبط بها. يقلّل ذلك قرارات التوافق التي عليك حسمها، لكنه لا يغني عن قياس الأداء.

يربط الجدول التالي مباشرةً بتوثيق المحركات نفسها. وهو دليل إلى مواضع الإعداد، وليس تأكيدًا على أن كل نموذج يعمل مع كل خيار في الجدول.

اسم الخوارزمية وترتيب تنفيذها أمران مختلفان. تُزيل ملاحظات الإصدار الحالي من TensorRT-LLM مسار تشغيل محرك مسودة منفصل، وتُبقي على التطبيقات التي تضع مولّد المسودة داخل النموذج كوحدة فرعية. وهذا لا يعني اختفاء أسلوب المسودة والنموذج الهدف، بل يعني أن تعليمات النشر القديمة قد تصف مسار تنفيذ لم يعد موجودًا في الإصدار المثبّت لديك. ملاحظات إصدارات TensorRT-LLM

متى تتحسن السرعة، ومتى لا تتحسن؟

تتحقق فائدة فك الترميز التخميني فقط عندما تصل المخرجات المفيدة أسرع بعد احتساب كل العمل الإضافي. معدل القبول مهم، لكنه ليس سوى جزء من الحساب.

يجب أن يعوّض القبول كلفة إعداد المسودة

معدل القبول هو عدد رموز المسودة المقبولة مقسومًا على عدد رموزها المقترحة. ولا يخبرك وحده بكلفة إنتاج تلك المقترحات. فقد يكون مولّد المسودة الأبطأ أكثر توافقًا مع النموذج الهدف، ومع ذلك يُبطئ الخدمة.

يمكن الاستعانة بقاعدة القرار التالية:

(زمن إعداد المسودة + زمن التحقق + زمن التنسيق) ÷ عدد رموز المخرجات المعتمدة < زمن فك الترميز لكل رمز في الحالة المرجعية

هذه قاعدة لحساب الكلفة، وليست توقعًا لنتيجة اختبار أداء. قِس الجولة كاملة على عتادك. وتشمل «رموز المخرجات المعتمدة» رمز التصحيح أو الرمز الإضافي الذي يقدّمه النموذج الهدف، لا مقترحات المسودة المقبولة وحدها.

في مساعد لتعديل الشيفرة، قد يجعل تكرار البنية في مواضع متقاربة المقترحات مفيدة. أما في مساعد للدعم، فقد يتوافق نموذج المسودة مع النموذج الهدف في عبارات الربط اللبقة، لكنه يتعثر في الإجابات الخاصة بالمنتج. قِس عبء العمل في كل حالة على حدة قبل اتخاذ قرار النشر بناءً على متوسط معدل القبول.

كذلك تزيد المسودات الأطول العمل الذي قد يُهدر. لا تزد عمق المسودة إلا ما دامت المخرجات المعتمدة الإضافية تعوّض أعباء إعداد المسودة والتحقق والذاكرة. وتؤكد إرشادات الضبط لدى Fireworks التمييز التشغيلي نفسه: القبول وحده لا يثبت تحسن السرعة. إرشادات اختبارات الأداء من Fireworks

حجم الدفعة يغيّر فرصة الاستفادة

ابدأ بأعباء العمل التفاعلية التي يحدّ فك الترميز من سرعتها، ثم اختبر عند ذروة التزامن. يوجّه vLLM هذا الأسلوب تحديدًا إلى أعباء العمل التي تحدّها الذاكرة، عند معدلات طلبات متوسطة إلى منخفضة. وفي الخطوة التي تحدّها الذاكرة، يكون نقل بيانات النموذج قيدًا أكبر من القدرة الحسابية المتاحة. إرشادات vLLM لأعباء العمل

قد يتيح التحقق المتوازي استغلال قدرة حسابية لا تُستخدم بالكامل. لكن الخادم المشغول قد يستخدم هذه القدرة أصلًا لمعالجة طلبات أخرى. لذلك، فإن تقليل زمن الاستجابة لمحادثة منفردة لا يثبت زيادة معدل المعالجة الإجمالي لنقطة خدمة مزدحمة.

يغيّر التجميع المستمر للطلبات الطلبات التي تشترك في كل خطوة توليد. قيّم فك الترميز التخميني مع هذا المجدول، وبنمط وصول الطلبات الذي تخدمه فعليًا. فنقطة خدمة هادئة في بيئة التطوير وأخرى في الإنتاج أمامها طابور طلبات تمثّلان تجربتين مختلفتين.

لا تضع حدًا موحّدًا لحجم الدفعة يصلح لكل الحالات. فالحد المفيد يعتمد على النموذج والعتاد وطريقة إعداد المسودة والمجدول. راقب زمن الاستجابة والسعة معًا: مدى سرعة تدفق الإجابة، وحجم الطلبات الذي تستطيع الخدمة تحمّله ضمن زمن الاستجابة المستهدف.

الذاكرة قد تمحو المكسب

يتنافس مولّد المسودة على ميزانية محدودة من ذاكرة GPU. فقد تشغل الأوزان المنفصلة وحالة المسودة ومساحات عمل التحقق ذاكرة كان يمكن استخدامها لخدمة الطلبات. وتدخل ذاكرة KV المؤقتة، التي تخزّن حالة الانتباه للرموز الموجودة، ضمن هذه الميزانية.

تخيّل مساعدًا للمستندات يستجيب بسرعة للموجّهات القصيرة، لكنه يقترب من حدود السعة مع المستندات الطويلة. نجاح التجربة على موجّهات قصيرة لا يجيب عن سؤال ما إذا كانت المسودة ستتسع في الذاكرة إلى جانب الذاكرة المؤقتة المستخدمة في الإنتاج. اختبر أطول سياق تنوي دعمه، مع مستوى تزامن واقعي.

تتضمن إرشادات SGLang لمعالجة نفاد الذاكرة صراحةً تقليل حجز الذاكرة، وأحجام التقاط الرسوم البيانية، وحجم شجرة المسودة، وعدد الطلبات المتزامنة. وإذا اضطررت إلى خفض التزامن كي تتسع الذاكرة لهذا الأسلوب، فهذه مفاضلة ينبغي قياسها، وليست تحسينًا بلا كلفة. معالجة مشكلات الذاكرة في SGLang

سرّع المرحلة التي ينتظرها المستخدم

قد يعني بطء الإجابة انتظارًا طويلًا قبل بدء المخرجات، أو تدفقًا بطيئًا بعد بدايتها، أو تأخيرًا خارج النموذج. يستهدف فك الترميز التخميني مرحلة التوليد. وإذا كان تطبيقك يقضي معظم وقته في البحث داخل المستندات أو انتظار استدعاء أداة، فقد لا يغيّر تسريع حلقة فك الترميز تجربة المستخدم إلا قليلًا.

افصل في القياسات بين الانتظار في الطابور، والمعالجة الأولية للموجّه، وفك الترميز. تعالج مرحلة prefill الموجّه، بينما تنتج مرحلة decode التتمة. يشرح دليل استدلال نماذج اللغة الكبيرة هذه المراحل، ويميّز دليل الرموز في الثانية بين سرعة المخرجات ومعدل معالجة الطلبات الإجمالي.

كيف تفعّل فك الترميز التخميني؟

فعّله في عملية تشغيل خدمة الاستدلال، ثم قارنه بالنموذج الهدف نفسه من دونه. تفترض الأمثلة التالية أن المحرك مثبّت بالفعل، وأن العتاد يتسع للنماذج المختارة، وأن لديك صلاحية الوصول إلى أوزانها. استخدم التوثيق المطابق للإصدار الذي تنشره؛ فصفحة latest الحية لا تضمن التوافق مع حاوية أقدم.

تفعيل فك الترميز التخميني في vLLM

يستخدم vLLM كائن JSON يُمرَّر عبر --speculative-config. يستخدم مثال المسودة المستقلة التالي النموذج الهدف ومولّد المسودة وطول المسودة الواردة في توثيق تقديم الاستدلال عبر الخادم:

vllm serve Qwen/Qwen3-4B-Thinking-2507 \
  --speculative-config '{"method":"draft_model","model":"Qwen/Qwen3-0.6B","num_speculative_tokens":5}'

تمثّل 5 عدد المقترحات في المثال، ولا تعني أنه العدد الأمثل الموصى به. ويصنّف التوثيق الخيارين المنفصلين الأقدم --speculative-model و--num-speculative-tokens على أنهما متقادمان. أمثلة تشغيل vLLM

ولمثال على قدرة MTP الأصلية، يستخدم توثيق نسخة الأوزان الأساسية من Xiaomi MiMo الإعداد التالي:

vllm serve XiaomiMiMo/MiMo-7B-Base \
  --tensor-parallel-size 1 \
  --speculative-config '{"method":"mtp","num_speculative_tokens":1}'

هذا مثال لنموذج مختلف، وليس مولّد مسودة جاهزًا للاستخدام مع نموذج Qwen الهدف أعلاه. القيد الحاسم هو دعم نسخة الأوزان: يجب أن تكون MTP موجودة في النموذج، وأن يدعمها المحرك. مثال تشغيل MTP في vLLM

تفعيل فك الترميز التخميني في SGLang

يقدّم مثال مجدول التداخل الحالي في SGLang زوجًا من Qwen يتكوّن من نموذج هدف ونموذج مسودة مستقل:

python3 -m sglang.launch_server \
  --model Qwen/Qwen2.5-7B-Instruct \
  --speculative-algorithm STANDALONE \
  --speculative-draft-model-path Qwen/Qwen2.5-1.5B-Instruct \
  --speculative-num-steps 4 \
  --speculative-eagle-topk 1 \
  --speculative-num-draft-tokens 5 \
  --mem-fraction-static 0.7 \
  --cuda-graph-max-bs-decode 8

يتطلب مسار التداخل الحالي --speculative-eagle-topk 1. ولا تتوافق معه شجرة أعرض منسوخة من مثال آخر. أبقِ إعدادات المجدول وإعدادات المسودة الموثّقة معًا. مثال مجدول التداخل في SGLang

ولأعباء العمل المتغيرة، يوثّق SGLang بصورة منفصلة فك الترميز التخميني التكيّفي لإعدادات EAGLE المدعومة. اقرأ متطلبات هذه الميزة قبل أن تتوقع ضبط عمق المسودة تلقائيًا. فك الترميز التخميني التكيّفي في SGLang

الإعداد في TensorRT-LLM

يقبل TensorRT-LLM إعدادات فك الترميز التخميني عبر ملف YAML. احفظ ما يلي باسم speculative.yaml:

speculative_config:
  decoding_type: Eagle3
  max_draft_len: 4
  speculative_model: yuhuili/EAGLE3-LLaMA3.1-Instruct-8B

طول المسودة ونسخة الأوزان مأخوذان من مثال إعداد فك الترميز التخميني لدى NVIDIA. شغّل النموذج الهدف المطابق باستخدام واجهة سطر أوامر الخدمة الموثّقة:

trtllm-serve meta-llama/Llama-3.1-8B-Instruct \
  --config speculative.yaml

تحقق من جيل نسخة الأوزان إلى جانب اسم الإعداد. توثّق NVIDIA الاسم Eagle كاسم بديل لـ Eagle3 لأغراض التوافق، لكن أجيال نسخ أوزان EAGLE الأقدم تظل غير متوافقة مع هذا المسار. قيود نسخ الأوزان في TensorRT-LLM

إذا كنت تختار محرك الاستدلال أيضًا، إلى جانب أسلوب فك الترميز التخميني، فارجع إلى المقارنة الأشمل بين vLLM وSGLang. لا يستطيع مولّد مسودة جيد تعويض غياب ميزة أخرى يحتاج إليها تطبيقك في المحرك.

هل يستفيد فريق يستخدم واجهة API مستضافة؟

نعم، عندما يوثّق المزوّد هذا التحسين ويفعّله؛ أما مستوى التحكم فيعتمد على الخدمة. لا يلزم أن تمتلك وحدات GPU لتستفيد من تحسين المزوّد لتشغيل الاستدلال.

يوثّق Fireworks AI، وهو مزوّد لاستدلال مستضاف، مولّدات مسودة افتراضية لمعظم النماذج المدعومة في بيئات النشر المخصّصة. أما النموذج الذي لا يملك مولّد مسودة افتراضيًا فيعمل من دون فك ترميز تخميني قائم على نموذج، ما لم يُضبط خلاف ذلك. وتدير Fireworks إعدادات الخدمة دون خادم، لذلك لا تثبت خيارات النشر المخصّص أن كل نقطة خدمة دون خادم تستخدم فك الترميز التخميني. توثيق النشر في Fireworks

ولمن يعيد توليد ملف مع تعديلات طفيفة، توثّق Fireworks أيضًا ميزة Predicted Outputs: مرّر النص المتوقع عبر حقل prediction في الطلب. يوفّر ذلك النص المعروف مصدرًا مختلفًا للمقترحات، ويمكن أن يعمل إلى جانب فك الترميز التخميني القائم على نموذج. وتفيد هذه الميزة عندما تعرف مسبقًا جزءًا كبيرًا من الإجابة، لا عندما تطرح سؤالًا مفتوحًا. ميزة Predicted Outputs في Fireworks

وبالنسبة إلى أي نقطة خدمة مستضافة أخرى، ارجع إلى توثيقها الخاص قبل نسب هذه الفائدة إليها أو إضافة إعداد لها. فتوافق واجهة API وحده لا يخبرك بنموذج المسودة الذي يعمل خلفها، أو بوجوده أصلًا.

أين تقع المبالغات؟

فك الترميز التخميني تحسين مشروط لخدمة الاستدلال، وليس مضاعِف سرعة يصلح لكل الحالات. لا يقدّم هذا المقال وعدًا رقميًا بالتسريع، لأن نتيجة تخص نموذجًا هدفًا ومولّد مسودة ووحدة GPU ومزيج طلبات مختلفًا لا تصف خدمتك.

مقولة «زيادة الرموز المقبولة تعني تطبيقًا أسرع» تتجاهل كلفة المسودة والانتظار في الطابور وكل ما يفعله التطبيق حول التوليد. ومقولة «المسودة الأطول أفضل» تتجاهل العمل الذي يُهدر بعد الرفض. أما «عدم الفقد يعني تطابق النصوص» فتخلط بين توزيع أخذ العينات ونتيجة عشوائية بعينها.

أكثر الأخطاء كلفةً هو تعميم نتيجة نقطة خدمة هادئة لتصبح ادعاءً بشأن سعة الإنتاج. فقد يبدو مساعد البرمجة أسرع للمطوّر، بينما تتعامل نقطة الخدمة المشتركة مع عدد أقل من الجلسات المتزامنة. حدّد ما إذا كنت تحسّن زمن الاستجابة، أو معدل المعالجة المستدام، أو كليهما، واجعل هذا القرار واضحًا في معايير التفعيل.

ما الذي يمكنك تنفيذه الأسبوع المقبل؟

على المطوّرين تجربة مولّد مقترحات متوافق عندما يكون فك الترميز هو عنق الزجاجة. وعلى المشغّلين اشتراط تحسن تحت حمل الإنتاج. أما فرق واجهات API المستضافة، فعليها البدء بأدوات التحكم التي يوثّقها مزوّدها فعلًا.

إذا كان معظم الانتظار يحدث قبل التوليد، فعالج عنق الزجاجة هناك أولًا. وإذا لم تتسع الذاكرة للمسودة أو لم توجد نسخة أوزان متوافقة، فأبقِ النموذج الهدف يعمل بالطريقة المعتادة. إتاحة الميزة ليست دليلًا على حاجة بيئة تشغيلك إليها.

أسئلة يطرحها المطوّرون

اشترك في النشرة البريدية للحصول على أدلة عملية لبناء أنظمة الذكاء الاصطناعي وتشغيلها.