Ollama أم llama.cpp؟ دليلك لتشغيل نماذج اللغة محليًا

Ollama أم llama.cpp: أيهما يناسب عملك؟

اختر Ollama إذا كنت تدير أجهزة المطورين أو خدمة داخلية محدودة لتشغيل النماذج. فأوامر إدارة النماذج والإعدادات المحفوظة بأسماء وواجهة API المخصصة للتطبيقات تختصر العمل بين تنزيل النموذج والاستفادة منه. ستظل بحاجة إلى تقدير الذاكرة وضبط الوصول، لكن تعليمات الإعداد التي يتبعها كل مطور ستتطلب قرارات أقل بشأن تشغيل الخدمة.

اختر llama.cpp إذا كنت المسؤول عن إعداد الاستدلال. فهو أنسب عندما تحتاج إلى تحديد ملف GGUF بعينه، أو فحص نسخة بتكميم جديد، أو ضبط توزيع النموذج على GPU، أو مواءمة الطلبات المتزامنة مع السعة المخصصة للسياق. في المقابل، تحصل على إعداد تشغيل تستطيع وصفه بدقة، وتتحمل مسؤولية صيانته بنفسك.

احتفظ ببيئة التشغيل الحالية ما دامت تحقق أهداف الاستجابة والجودة لأحمال عملك. الانتقال من Ollama إلى llama.cpp لمجرد أن شخصًا نشر اختبارًا أسرع على حاسوبه المحمول ليس مبررًا قويًا. انتقل عندما تستطيع تحديد خيار التحكم الذي تحتاج إليه أو المشكلة التي قستها وتريد حلها.

رُوجعت المعلومات بالرجوع إلى الوثائق المنشورة لكلا المشروعين في 16 أكتوبر 2026. وتقارن المقالة بينهما من حيث التثبيت والتحكم في ملفات النماذج وسلوك API والطلبات المتزامنة ودعم العتاد. ولا تقدم نتائج اختبار أداء عملي أجريناه.

هذه القدرات موثقة في دليل أوامر Ollama، ودليل استيراد GGUF، ومرجع خادم llama.cpp. كلا المشروعين مجاني للتشغيل المحلي، وهو أمر منفصل عن خدمات Ollama المستضافة؛ كما تبقى تراخيص النماذج مسألة مستقلة. مستودع Ollama، مستودع llama.cpp.

جذور تقنية مشتركة ومسؤوليات مختلفة

يضيف Ollama طبقة لإدارة النماذج وتقديم الخدمة حول الاستدلال، بينما يتيح llama.cpp التعامل المباشر مع أدوات الاستدلال. والاستدلال هو استخدام أوزان النموذج ومدخلاتك لتوليد الرموز النصية في المخرجات. أما إدارة هذه العملية فتشمل أيضًا العثور على النماذج وتسمية إعداداتها وتحميلها واستقبال الطلبات وإخراج الملفات القديمة من الخدمة.

يشير Ollama إلى فضل llama.cpp في مستودعه. لكن وصفه بأنه «مجرد غلاف» حكم قاطع أكثر مما ينبغي؛ فالشيفرة الحالية تتضمن أيضًا عملًا على طبقات تنفيذ أخرى، منها مكونات MLX. ولا تعني الجذور المشتركة أن كل نموذج يستخدم طبقة التنفيذ نفسها أو المراجعة البرمجية نفسها أو مسار التنفيذ نفسه. شيفرة Ollama والإشادة بالمشاريع المساهمة.

فكّر في القرار من زاوية التفاصيل التي تريد إدراجها في تعليمات النشر. إذا كان المطور يحتاج إلى اسم نموذج موثق ونقطة اتصال، فإن طريقة Ollama في تجهيز النماذج تساعده. أما إذا كان مسؤول البنية التحتية يحتاج إلى توثيق بصمة التحقق من الملف ونسخة بناء طبقة التنفيذ وإعدادات الذاكرة معًا، فإن إعداد llama.cpp المباشر يسهّل تحديد هذه التفاصيل صراحة.

التثبيت وإدارة النماذج: Ollama أسهل في العمل اليومي

Ollama: جهّز بيئة يسهل تكرار إعدادها

Ollama أداة لتشغيل النماذج محليًا، تتضمن مكتبة نماذج مُدارة وواجهة API للخدمة. تتوفر تنزيلاته لأنظمة macOS وWindows وLinux، وتتيح واجهة سطر الأوامر العمليات اليومية التي يحتاج إليها مسؤول تقنية المعلومات: pull وrun وls وrm وps وstop. ويتيح ملف Modelfile، وهو وصف نصي لإعداد النموذج، جمع نموذج أساسي وتعليمات تحت اسم محدد. دليل البدء السريع في Ollama، مرجع سطر الأوامر.

في تجربة مشتركة لاستخدام النماذج في البرمجة، وثّق النموذج المعتمد وإعداداته ونقطة الاتصال مرة واحدة. لا ينبغي أن يحتاج المطور إلى تعلّم توزيع العمل على GPU لمجرد ربط تطبيق بالخدمة. وهذه أقوى حجة لاختيار Ollama بدلًا من llama.cpp.

تظهر الحدود عندما لا يتيح أسلوب العمل الجاهز ضبط سلوك الخدمة الذي تحتاج إليه. لا تفترض أن بإمكانك تمرير أي خيار من خيارات llama.cpp الأصلية إلى Ollama كما هو. تحقّق من الإعدادات المتاحة في إصدارك المثبّت قبل بناء خطة النشر حول أحدها.

llama.cpp: تحكم مباشر من دون اشتراط البناء من المصدر

llama.cpp مجموعة أدوات للاستدلال تشمل واجهة سطر أوامر وخادم HTTP وواجهة ويب. يعرض ملف README الحالي أداة تثبيت وإصدارات جاهزة وDocker والبناء من المصدر. كما يوثّق الأمرين llama cli -hf وllama serve -hf لتحميل النماذج مباشرة من منصة استضافة النماذج Hugging Face. البناء من المصدر خيار متاح، وليس شرطًا للبدء. تثبيت llama.cpp والبدء السريع.

ومن الخطأ أيضًا افتراض أن استخدام llama.cpp مباشرة يعني الاضطرار دائمًا إلى تشغيل عملية مستقلة يدويًا لكل نموذج. فوثائق الخادم تشرح موجّهًا يدعم أدلة النماذج والإعدادات المسبقة. الفارق هو مقدار ما تختاره من طريقة التشغيل هذه وتتولى صيانته. وثائق موجّه الخادم.

الأفضل: Ollama للتثبيت المعتاد وإدارة النماذج اليومية. اختر llama.cpp في هذا الجانب عندما تكون قيمة الإعداد الصريح مهمة لسير عملك. وإذا كانت حاجتك الفعلية مساحة عمل للنماذج على سطح المكتب، فالمقارنة الأقرب هي Ollama أم LM Studio.

GGUF والتكميم: llama.cpp يمنحك تحكمًا أدق في ملفات النموذج

كلاهما يشغّل نماذج GGUF، لكن llama.cpp يتيح إعداد ملفات النموذج واختيارها بصورة أكثر مباشرة. وGGUF تنسيق لملفات النماذج يحمل الأوزان والبيانات الوصفية. أما التكميم فيخزّن الأوزان بدقة عددية أقل لتقليل حجمها، مقابل أثر على الجودة يتوقف على النموذج والمهمة.

توثّق أداة التكميم في llama.cpp تنسيقات مثل Q4_K_M وQ5_K_M وQ8_0، إلى جانب مصفوفة الأهمية وخيارات الضبط لكل موتر. تساعد مصفوفة الأهمية في تحديد أجزاء النموذج التي تحتاج إلى دقة أعلى، بينما تسمح خيارات الضبط لكل موتر بمعاملة مصفوفات الأوزان المختلفة بطرق مختلفة. وتبرز أهمية ذلك عندما لا تلبي النسخة المعتادة المتاحة للتنزيل هدفك من حيث الذاكرة أو الجودة. دليل التكميم في llama.cpp.

يستطيع Ollama استيراد ملف GGUF جاهز باستخدام سطر FROM في Modelfile. وتنص وثائقه الحالية صراحة على أن استيراد GGUF لا يكمّم النموذج، وتوجّهك إلى استخدام أدوات مثل llama-quantize أولًا. وهذا تقسيم مفيد للعمل: أعدّ ملف النموذج باستخدام llama.cpp، ثم وزّع إعدادًا له باسم محدد عبر Ollama. وثائق الاستيراد في Ollama.

على سبيل المثال، بعد وضع نموذج نصي متوافق من ملف واحد في المسار ./team-model.gguf، تنشئ الأوامر التالية إعدادًا في Ollama بسعة سياق تختارها:

cat > Modelfile <<'MODEL'
FROM ./team-model.gguf
PARAMETER num_ctx 8192
MODEL
ollama create team-local -f Modelfile
ollama run team-local

يمكنك اختيار اسم الملف واسم النموذج، وإعداد السياق هنا مثال وليس توصية تصلح لكل حمل عمل. وتستند صياغة الأوامر إلى مرجع Modelfile.

لا تعدّ الامتداد .gguf ضمانًا للتوافق. فلا بد أيضًا من دعم بنية النموذج وقالب المحادثة، أي القواعد التي تحوّل الرسائل إلى المدخلات التي يتوقعها النموذج. وقد تحتاج النماذج متعددة الوسائط إلى مكونات منفصلة للرؤية أو الصوت. ويشرح دليل التكميم في llama.cpp ملفات الإسقاط الإضافية. نجاح الرد النصي وحده لا يثبت صحة التعامل مع الصور أو استخدام الأدوات.

الأفضل: llama.cpp للتكميم المخصص واختيار ملف النموذج بدقة. ويظل Ollama مناسبًا عندما يعمل النموذج الجاهز كما تريد وتفضّل أسلوبه في الإدارة. اختر الأوزان بمعزل عن بيئة التشغيل بالاستعانة بدليل أفضل نماذج اللغة الكبيرة للتشغيل المحلي في 2026.

الخادم وتوافق API: Ollama أنسب للاستخدام المعتاد

Ollama هو الخيار الافتراضي الأسهل لتطبيق يستخدم API محلية موثقة للنماذج، بينما يتفوق llama.cpp عندما تحتاج إلى ضبط إعداد الخادم نفسه. يوفر Ollama واجهته الأصلية ومسارات متوافقة مع OpenAI. ويوفر llama.cpp أيضًا واجهات متوافقة مع OpenAI لإكمال المحادثات والاستجابات والتضمينات. والمقصود بالتوافق هنا واجهة طلبات مألوفة، لا سلوكًا مطابقًا في كل ميزة. وثائق API في Ollama، مرجع خادم llama.cpp.

قد تحسم إحدى القيود قرار الانتقال: واجهة Responses API في Ollama لا تحتفظ بالحالة. فهي لا تدعم previous_response_id أو conversation. وإذا كان تطبيقك يعتمد على تذكّر الخادم للمحادثة عبر هذين الحقلين، فلن يكفي تغيير عنوان URL الأساسي وحده. راجع السلوك الموثق للخادم الذي ستنتقل إليه وحدّد أين سيُحفظ سجل المحادثة.

إعداد السياق قيد آخر ينبغي الانتباه إليه. يوجّه دليل التوافق مع OpenAI في Ollama إلى استخدام Modelfile لتغيير حجم سياق النموذج المحلي. وهذا الإعداد مختلف عن الحد الأقصى لرموز المخرجات؛ فالسماح بإجابة أطول لا يعني تلقائيًا أن النموذج سيستوعب مدخلات أطول.

عند نشر llama.cpp مباشرة، يتيح الخادم أسماء بديلة للنماذج وإعدادات لقوالب المحادثة ومفاتيح API ومقاييس اختيارية. تفيد هذه الخيارات عندما يحتاج مساعد داخلي إلى اسم ثابت للنموذج في API مع تغيير ملف النموذج الذي يعمل خلفه. لكنها تعني أيضًا إعدادات أكثر تحتاج إلى المراجعة والحفاظ عليها عبر الترقيات.

الطلبات المتزامنة: llama.cpp يتيح ضبط الخدمة بصورة أوضح

يستطيع Ollama معالجة طلبات متداخلة زمنيًا، لكن llama.cpp يكشف مزيدًا من إعدادات الجدولة والذاكرة للتحكم المباشر. تحميل عدة نماذج في الوقت نفسه يختلف عن استقبال عدة طلبات في الوقت نفسه. فتحميل نموذج للبرمجة إلى جانب نموذج للتضمينات يستهلك الذاكرة بطريقة تختلف عن مشاركة عدة محادثات لنموذج محمّل واحد.

يوثّق Ollama الإعدادات OLLAMA_NUM_PARALLEL وOLLAMA_MAX_LOADED_MODELS وOLLAMA_MAX_QUEUE. والعدد الافتراضي للطلبات المتوازية لكل نموذج هو 1، كما تعتمد المعالجة المتوازية على توفر الذاكرة. رفع الحد الأقصى لطابور الانتظار يسمح لمزيد من الطلبات بالانتظار، لكنه لا يزيد قدرة الاستدلال. وثائق الطلبات المتزامنة في Ollama.

يوثّق llama.cpp فك الترميز المتوازي والتجميع المستمر وخانات الخادم. يسمح التجميع المستمر للخادم بإدخال طلبات جديدة كلما انتهت طلبات قيد التنفيذ. والخانة موضع يُخصص لطلب تجري معالجته. ومن خيارات الضبط --parallel و--kv-unified-per-slot، إلى جانب إعدادات توزيع العمل على GPU وذاكرة التخزين المؤقت. خيارات ضبط خادم llama.cpp.

احسب سعة السياق قبل زيادة التوازي

في تجربة توضيحية، 4 طلبات متزامنة × 8,192 رمزًا نصيًا للسياق = 32,768 موضعًا للرموز النصية. هذه سعة سياق وليست قياسًا لذاكرة RAM. وتستهلك ذاكرة KV المؤقتة، التي تخزّن حالة الانتباه في النموذج، ذاكرةً إلى جانب الأوزان ومساحات العمل الأخرى. ويتوقف حجمها بالبايت على بنية النموذج والدقة العددية المستخدمة في التخزين المؤقت.

باستخدام ملف team-model.gguf المتوافق من المثال السابق، يمكنك تحديد هذا الإعداد مباشرة في تثبيت حالي لـllama.cpp:

llama serve -m ./team-model.gguf \
  --alias team-local \
  --host 127.0.0.1 --port 8080 \
  --parallel 4 \
  --kv-unified-per-slot 8192

هذه إعدادات مختارة للتجربة، وليست نتائج اختبار أداء أو إعدادات المشروع الافتراضية. وتنص وثائق الخادم على أنه، عند عدم تحديد --ctx-size صراحة، يُحسب حجم مساحة KV المشتركة بضرب عدد الخانات في الحد المخصص لكل خانة. أبقِ التجربة على عنوان الاسترجاع المحلي إلى أن تصبح ضوابط الوصول جاهزة.

في Ollama، اضبط التوازي والسياق في بيئة الخدمة، ثم افحص سعة السياق الفعلية وتوزيع النموذج بين CPU وGPU باستخدام ollama ps. وتشرح الصفحة المخصصة للسياق إعدادات افتراضية تختلف باختلاف العتاد، لذا سجّل السعة التي تستخدمها فعليًا. إعداد السياق في Ollama.

لا تُحسم السرعة من دون تحديد حمل العمل

اسم المشروع وحده لا يجعله الفائز في كل اختبار لزمن الاستجابة أو معدل الإنجاز. طابق الأوزان والتكميم والقالب والسياق وطبقة التنفيذ والعتاد قبل المقارنة. ثم افصل بين زمن الانتظار وزمن ظهور أول رمز نصي وسرعة التوليد وعدد الطلبات المكتملة تحت الضغط.

في مساعد دعم داخلي، لا يثبت الرد السريع على طلب منفرد أن الموظفين يستطيعون استخدامه معًا بكفاءة. أعد تشغيل عينة ممثلة من الأسئلة القصيرة والطلبات التي تتضمن مستندات طويلة، وقِس بدء التشغيل البارد بصورة منفصلة، وسجّل إصدارات بيئة التشغيل والتاريخ. ولا تستفد من فارق سرعة منشور إلا إذا ذُكر من أجرى الاختبار وتاريخه والعتاد والنموذج وحمل العمل.

الأفضل: llama.cpp للضبط المقصود للطلبات المتزامنة. ابقَ مع Ollama عندما تحقق إعداداته هدف الخدمة وتكون سهولة إدارته أهم لديك من خيارات التحكم الإضافية.

دعم Apple Silicon وGPU: اختر طبقة التنفيذ المناسبة للجهاز

Ollama أنسب للنشر المعتاد على أجهزة العمل، وllama.cpp أنسب للتحكم المتخصص في طبقة التنفيذ. كلاهما يدعم التسريع باستخدام GPU في أجهزة Apple. يوثّق Ollama دعم Metal، بينما يعامل llama.cpp منصة Apple Silicon بوصفها منصة أساسية، مع استخدام Metal وAccelerate وتحسينات ARM. دعم العتاد في Ollama، العتاد المدعوم في llama.cpp.

على أجهزة Mac، ابدأ بالتطبيق أو الملفات التنفيذية المخصصة للعمل مباشرة على النظام. تنص وثائق Ollama على أن Docker Desktop على macOS لا يوفر تسريع GPU. لذلك قد يؤدي نقل إعداد يعمل على النظام مباشرة إلى حاوية إلى تغيير مسار التنفيذ الذي كنت تعتقد أنك تقارنه. قيد تسريع GPU مع Docker في وثائق Ollama.

أما على أجهزة العمل الأخرى، فيوثّق Ollama دعم NVIDIA، ودعم AMD عبر ROCm، ودعم Vulkan عند تثبيت طبقة التنفيذ الخاصة به. ويتيح llama.cpp مسارات CUDA مع NVIDIA، وHIP مع AMD، وVulkan وSYCL، مع تعليمات بناء لاختيار طبقات التنفيذ. تحقّق من التوليفة المحددة لنظام التشغيل وGPU وبرنامج التشغيل، ولا تفترض أن اسم الشركة المصنّعة وحده يضمن الدعم. دليل GPU في Ollama، دليل بناء llama.cpp.

ابدأ بفحص عملي لمكان تحميل الأوزان: هل هي على GPU أم CPU أم موزعة بينهما؟ كثرة خيارات الضبط لن تحل مشكلة نموذج وسياق يتجاوزان الذاكرة التي خصصتها. اختر إعدادًا يتسع له الجهاز، ثم قيّم ما إذا كانت جودة استجابته مقبولة.

كيف يؤثر Muse Spark Open في هذا القرار؟

ذِكر Meta لمحرك llama.cpp يمنحك مسارًا موثقًا للاستقصاء، وليس سببًا تلقائيًا لاستبدال Ollama. في إعلان Muse Spark Open بتاريخ 15 أكتوبر 2026، تدرج Meta محرك llama.cpp ضمن محركات الاستدلال المدعومة. وهذا يجعل استخدامه مباشرة خيارًا يستحق النظر عند تقييم النموذج الصادر حديثًا، من دون افتراض أن بيئة تشغيل أخرى قد أدرجت دعمًا مكافئًا له ضمن حزمها. إعلان Meta.

مواصفات العتاد مهمة هنا. تصف Meta النموذج بأنه يضم 816B من المعلمات إجمالًا و42B من المعلمات النشطة، ويستخدم مثالها للتشغيل على سطح المكتب جهازي Apple M5 Ultra Mac Studio مع MLX. هذا المثال ليس اختبار أداء لـllama.cpp، وعدد المعلمات النشطة لا يغني عن التحقق من احتياجات النموذج الكامل إلى الذاكرة. وصف Meta للعتاد والنموذج.

عند تجهيز نشرك، تحقّق معًا من نسخة البناء المحددة وملف النموذج والتكميم والقالب وأنواع المدخلات المطلوبة. دعم المحرك في إعلان الإطلاق لا يثبت وجود الدعم في إصدار Ollama المثبّت لديك، ولا يثبت أن النموذج يتسع له حاسوب محمول عادي لمطور. الفائدة العملية هي مسار تقييم جديد لمسؤول البنية التحتية؛ أما نشره على أجهزة العمل فلا يزال يحتاج إلى تحقق مستقل.

الانتقال من Ollama إلى llama.cpp: انقل الإعدادات أيضًا

المهمة الأساسية عند الانتقال هي الحفاظ على السلوك، ولا تقتصر على نسخ الأوزان. قد يكون سجل تطبيقك وفهرس الاسترجاع ومعالجة الطلبات خارج بيئتي التشغيل أصلًا. حافظ على وضوح هذه الحدود أثناء استبدال خدمة النموذج.

لا تنتقل إذا كانت خدمتك الحالية تعمل جيدًا ولا يحتاج أحد إلى خيارات التحكم الإضافية. يمكنك أيضًا تجهيز ملف GGUF باستخدام llama.cpp والاستمرار في تقديمه عبر Ollama. فلكل من المشروعين مكان في جزء مختلف من سير العمل نفسه.

Ollama وllama.cpp وvLLM: متى تتجاوز احتياجاتك جهاز العمل؟

قيّم vLLM عندما يصبح الاستخدام المشترك المستمر أو الاستدلال الموزّع هو المطلب الأساسي. vLLM محرك لتقديم النماذج عبر خادم، وتركّز وثائقه على التجميع المستمر وإدارة الذاكرة المؤقتة وخيارات التنفيذ الموزّع. تستحق هذه القدرات التقييم عندما تدير خدمة تعتمد على موارد تسريع مخصصة. وثائق vLLM.

التجميع المستمر وحده ليس الحد الفاصل، لأن llama.cpp يدعمه أيضًا. ولا يوجد عدد موحد من الموظفين يفرض الانتقال. فخدمة تستقبل طلبات قصيرة من حين إلى آخر تختلف عن مجموعة أصغر ترسل مهام برمجية طويلة باستمرار.

قاعدة القرار قابلة للقياس: إذا أخفق الإعداد الحالي في تحقيق هدف الاستجابة تحت طلب ممثل لأوقات الذروة، وكان خيار التحكم أو قدرة النشر المفقودة متاحًا في vLLM، فابدأ التقييم. وإذا كان الإعداد الحالي يحقق الهدف، فاحتفظ به. وتناقش مقارنة Ollama وvLLM قرار تشغيل الخدمة هذا بتفصيل أكبر.

خطوتك العملية في بداية أسبوع العمل واضحة: اختر سير عمل محليًا واحدًا، وثبّت النموذج والسياق المستخدمين فيه، وحدّد الطلب المتزامن المتوقع، ثم أعد تشغيله قبل توسيع نطاق الوصول. استخدم النتيجة لتحديد ما إذا كنت تحتاج إلى بيئة تشغيل مختلفة أم إلى إعداد أفضل فحسب.

الأسئلة الشائعة

استخدم قائمة مراجعة سير العمل بالذكاء الاصطناعي للأعمال لاختيار أول سير عمل خاص يستحق التشغيل محليًا، واشترك في النشرة لمتابعة التغييرات اللاحقة في الأدوات.