هلوسة الذكاء الاصطناعي (AI hallucination): كيف تكشفها وتحد منها

ينبغي ألا يختلق روبوت الدعم استثناءً من سياسة الشركة، وألا يرتجل مساعد التقارير مجموعًا حسابيًا، وألا يخمّن الوكيل أي سجل عميل ينبغي تعديله. والوكيل هنا برنامج يستخدم نموذجًا لاختيار الإجراءات واستدعاء الأدوات. الهدف العملي هو منع أي إجابة أو إجراء يفتقر إلى سند من الخروج من تطبيقك.

جرى التحقق في 17 أكتوبر 2026 بالرجوع إلى إرشادات مطوّري النماذج، ووثائق واجهات البرمجة، والأمثلة البحثية، والسجل القضائي المرتبطة في المقال. الأمثلة أدناه وقائع منسوبة إلى مصادرها؛ أما دالة التحقق وخطة العمل الأسبوعية فتوصيات للتنفيذ، وليستا نتائج تشغيل فعلي.

ما هلوسة الذكاء الاصطناعي (AI hallucination)، ولماذا تحدث؟

هلوسة النماذج اللغوية هي إنتاج عبارة خاطئة أو غير مسندة وتقديمها على أنها إجابة. يشير اختصار LLM إلى نموذج لغوي كبير، أي نموذج دُرّب على توليد اللغة انطلاقًا من أنماط النصوص. وقد تكون العبارة بلا سند في المستندات التي زوّدت النموذج بها، حتى لو صادف أنها صحيحة في سياق آخر.

تخيّل النموذج كاتبًا ماهرًا يُكمل إحاطة اعتمادًا على المواد الموضوعة أمامه. يستطيع أن يصوغ فقرة مقنعة لسد فراغ في النص، لكن ذلك لا يثبت أن لهذه الفقرة مكانًا في سجلات شركتك.

توقّع النص المقنع لا يعني التحقق من صحته

توضح OpenAI في مقالها البحثي عن أسباب هلوسة النماذج اللغوية، المنشور في 5 سبتمبر 2025، أن التدريب المسبق يعلّم النموذج توقّع النص من دون إرفاق كل عبارة بتصنيف يحدد صحتها أو خطأها. ويصعب خصوصًا استعادة الحقائق النادرة التي لا يمكن استنتاجها من الأنماط. يحسّن التدريب اللاحق سلوك النموذج، لكن الطلاقة لا تصبح ضمانًا للحقيقة.

بالنسبة إلى المطوّر، النتيجة واضحة: سياسات المنتج وحالة الحساب والمخزون يجب أن تكون في مصادر معتمدة يستطيع التطبيق قراءتها. التعامل مع إجابة يستحضرها النموذج من ذاكرته على أنها قاعدة البيانات يفتح بابًا لإخفاق يمكن تفاديه.

السياق الناقص أو القديم يترك فراغًا

ربما لم تصل إلى النموذج أصلًا المعلومة التي يحتاجها العميل. فقد يكون المستند المرفوع قديمًا، أو يسترجع البحث إصدارًا غير معنيّ من المنتج، أو تفشل عملية الاستعلام عن الحساب. ويذكر تفسير Anthropic لإجابات Claude غير الصحيحة صراحةً أن غياب المعلومات الحديثة من أسباب الالتباس.

ميّز بين حالتين: إذا اختلق المساعد سياسةً، فالخلل في التوليد. وإذا نقل سياسة منتهية الصلاحية بدقة، فالخلل في إدارة المصادر. في الحالتين يتلقى العميل إجابة خاطئة، لكن تعديل التعليمات الموجّهة إلى النموذج لا يصلح مستندًا قديمًا ولا استعلامًا معطّلًا عن الحساب.

الإصرار على الإجابة قد يكافئ السلوك الخاطئ

ترى OpenAI أن التقييمات التي تقتصر على الدقة قد تكافئ التخمين أكثر من الاعتراف بعدم اليقين. وقد يكرر مقياس النجاح لديك الخطأ نفسه إذا عدّ كل إجابة مكتملة نجاحًا وكل إحالة إلى موظف إخفاقًا.

العميل الذي يطلب موعد تسليم مضمونًا يحتاج إلى تقدير معتمد للشحنة. وإذا لم توفّر شركة الشحن هذا التقدير، فالنتيجة المفيدة هي توضيح محدد للمعلومة الناقصة. كافئ هذه النتيجة في اختباراتك ولوحة متابعة التشغيل.

أمثلة على هلوسة النماذج اللغوية: أربعة إخفاقات يجب رصدها

صنّف الإخفاقات بحسب ما يجب على تطبيقك التحقق منه. تتداخل هذه الفئات، لكنها تمنح الفريق الصغير مواضع واضحة لإضافة الفحوص.

حقائق مختلقة: ترد أمثلة عناوين الأطروحة في عرض OpenAI لبحثها. معرفة الاسم لم تعوّض غياب عنوان الأطروحة. ويقابل ذلك في الأعمال اختلاق ميزة لمنتج لمجرد وجودها في منتجات مشابهة.

أرقام خاطئة: توضح أمثلة تواريخ الميلاد في المصدر نفسه لماذا لا يُعدّ التاريخ دليلًا لمجرد أنه يبدو دقيقًا. داخل تطبيقك، ميّز بين أرقام لا يسندها مصدر وأخطاء في الحساب. استخرج الكميات من السجلات، واحسب المجاميع بالكود المعتاد، واطلب من النموذج شرح النتيجة التي يتلقاها.

مراجع وهمية: يصف الرأي القضائي الصادر في 20 مارس 2024 في قضية United States v. Cohen ثلاث قضايا غير موجودة جرى الحصول عليها من Google Bard، وهو الاسم الذي كان يحمله مساعد Google التوليدي آنذاك. وكان أحد المراجع المزعومة United States v. Figueroa-Florez. لم يكن اسم القضية المقنع ولا تنسيق الاستشهاد دليلًا على وجود سند قضائي حقيقي.

قيم خاطئة مُمرَّرة إلى الأدوات: يعرض معدّو Berkeley Function Calling Leaderboard استدعاءً يتضمن annual_interest_rate: 5 لمعدل مطلوب قدره 5%، إلى جانب التمثيل العشري الصحيح 0.05. القيمتان رقميتان، ولذلك لا يكفي فحص النوع وحده للتمييز بينهما. هذا خطأ في معنى القيمة المُمرَّرة؛ وليس كل استدعاء خاطئ لأداة حقيقةً مختلقة، لكنه يستحق المراجعة نفسها قبل التنفيذ.

كيف تقلل هلوسة الذكاء الاصطناعي قبل وصولها إلى العملاء؟

وفّر الأدلة قبل التوليد والتحقق بعده، ثم حدّد ما ينبغي للنظام فعله عند غياب أي منهما. يتولى المطوّرون الفحوص، ويتولى مسؤولو التشغيل المصدر المعتمد ومسار التصعيد.

اربط الإجابات بمصادر حديثة وذات صلة

يبحث التوليد المعزّز بالاسترجاع، أو RAG، في مواد خارجية ويزوّد النموذج بالمقاطع ذات الصلة. بذلك يحصل الكاتب على مادة يعمل انطلاقًا منها. ويوضح شرح Anthropic لتقنية Contextual Retrieval أهمية الاحتفاظ بالسياق الذي يمنح المقطع المسترجع معناه؛ فقد يغيب عن المقتطف المعزول اسم الشركة أو الفترة الزمنية أو الموضوع الذي يتناوله.

إذا كنت تبني ميزة للدعم، فحدّد مجموعة السياسات المعتمدة وأرفق بها بيانات وصفية عن المنتج والمنطقة وتاريخ السريان وصلاحيات الوصول. استخدم هذه الحقول لتصفية المصادر قبل التوليد. واسترجع قاعدة الإلغاء واستثناءاتها معًا؛ إذ قد تسند فقرة منفصلة عن قيدها وعدًا خاطئًا.

أما معلومات الحساب الآنية، فاقرأها من قاعدة بيانات التطبيق أو خدمته. البحث في المستندات بديل ضعيف للاستعلام عمّا إذا كان طلب هذا العميل قد شُحن. وإذا فشل الاستعلام، فأعد حالة تفيد بتعذّر الحصول على المعلومة بدلًا من استبدالها ضمنيًا بمعرفة عامة.

ابدأ بمسار استرجاع مباشر. واستخدم التوليد المعزّز بالاسترجاع القائم على الوكلاء، حيث يستطيع النموذج اختيار خطوات استرجاع إضافية، عندما تستلزم الأسئلة عمليات بحث لاحقة عبر مصادر متعددة. وتحتاج عمليات البحث الإضافية إلى قواعد للتوقف وإلى فحوص المصادر نفسها.

السؤال التشخيصي المفيد هو: هل وصلت الأدلة المناسبة إلى النموذج؟ احفظ معرّفات المصادر وإصداراتها إلى جانب الإجابة، حتى يستطيع مسؤول التشغيل التمييز بين إخفاق الاسترجاع وإضافة معلومة بلا سند.

اجعل «لا أعرف» حالة معتمدة في التطبيق

يوصي دليل Anthropic للحد من الهلوسة بالسماح بالتعبير عن عدم اليقين، والاستناد إلى اقتباسات، وذكر مصادر داعمة، وحذف الادعاءات غير المسندة. حوّل هذه الإرشادات إلى مواصفات واضحة للاستجابة.

أتح للنموذج نتائج صريحة مثل answered وneeds_clarification وinsufficient_evidence. لا تفرض عليه اختلاق إجابة لملء حقل إلزامي حين لا توجد إجابة. وعلى الواجهة أن تجعل كل نتيجة مفيدة: سؤال متابعة محدد، أو شرح للسجل الناقص، أو إحالة مرفقة بالسياق المسترجع.

من التعليمات المفيدة: «استخدم فقط السياسات وسجلات الحساب المقدّمة. إذا لم تثبت السجلات الإجابة، فحدّد المعلومات الناقصة. لا تستنتج الأهلية من حالات مشابهة». اختبر هذه التعليمات عند غياب الأدلة، ولا تكتفِ بالأسئلة السهلة.

عدم معرفة الإجابة يختلف عن الرفض لأسباب تتعلق بالسلامة، أو انتهاء مهلة أداة، أو طلب غير مصرّح به. افصل بين هذه الحالات في السجلات حتى تصل كل مشكلة إلى المسؤول المناسب لحلها.

اجعل الاستشهادات قابلة للتحقق برمجيًا

ينبغي أن يشير الاستشهاد إلى دليل يعرفه تطبيقك بالفعل. اجعل عملية الاسترجاع تعيّن معرّفات للمصادر، ثم اربط هذه المعرّفات بروابط معتمدة على الخادم. تجنّب مطالبة النموذج بإنشاء قائمة مراجع أو رابط وجهة من ذاكرته.

تحقّق من ثلاثة أمور مستقلة:

• الوجود: معرّف المصدر المستشهد به ينتمي إلى المواد المصرّح بها والمقدّمة لهذا الطلب.
• دقة الاقتباس: النص المقتبس موجود في الإصدار نفسه من المصدر الذي استُخدم للإجابة.
• دعم الادعاء: المقطع يثبت هذا الادعاء في حالة هذا العميل تحديدًا.

الأول والثاني فحصان برمجيان مباشران. أما الثالث فيحتاج إلى قاعدة خاصة بمجال العمل، أو حقل منظّم موثوق، أو مراجعة منفصلة لمدى دعم الأدلة للادعاء. وجود كلمة «مؤهل» في مستند لا يثبت أهلية عميل بعينه.

تصف وثائق الاستشهادات لدى Anthropic استشهادات مرتبطة بالمستندات تساعد على تحديد موضع الدليل. الإشارة إلى المصدر تسهّل تدقيق الإجابة، لكنها لا تحسم ما إذا كان المصدر حديثًا ومعتمدًا، أو ما إذا فُسّر على نحو صحيح.

استخدم المخرجات المنظّمة، ثم تحقّق من القيم

تقيّد المخرجات المنظّمة الاستجابة بمخطط يحدّد الحقول المسموحة وأنواع قيمها، فتسهّل كتابة فحوص التطبيق. ويحذّر دليل OpenAI للمخرجات المنظّمة صراحةً من أن المخرجات قد تظل تتضمن أخطاء، وأن المدخلات غير المتوافقة قد تدفع النموذج إلى الهلوسة إذا لم تتضمن مواصفات الاستجابة بديلًا مناسبًا.

قبل تنفيذ استدعاء أداة، تحقّق من العملية والقيم المطلوبة والوحدات والقيم المسموحة ووجود السجل وصلاحية المستدعي. حدّد المستأجر والمستخدم الذي جرت مصادقته داخل كود التطبيق. وعند الحاجة، دع النموذج يختار من بين السجلات المصرّح بها، لكن لا تعتبر معرّف عميل يقدّمه النموذج دليلًا على حق الوصول إليه.

نجاح استدعاء الأداة يتطلب أيضًا ردًا صادقًا للعميل. لا تقل إن الإلغاء اكتمل إذا أعادت الأداة حالة معلّقة أو خطأً. اجعل الحالة التي أعادتها الأداة المرجع المعتمد للرسالة النهائية. ويشرح دليل ضوابط وكلاء الذكاء الاصطناعي في الموقع الحدود المحيطة بتنفيذ الإجراءات.

كشف هلوسة النماذج اللغوية: فحص يمكنك تشغيله

إذا كان المطلوب حقلًا محددًا يتضمن حقيقة، فتحقّق من القيمة المقترحة بمقارنتها بسجل معتمد، وتولَّ أنت صياغة الإجابة. يمنحك ذلك ضمانًا أقوى لهذا الحقل من الاكتفاء بتقدير اتساق نص حر.

يستخدم مثال Python الآتي بيانات توضيحية لسياسة دعم، وليست سياسة عمل حقيقية. احفظه باسم verify_answer.py وشغّل python3 verify_answer.py. يعتمد على المكتبة القياسية فقط، ولا يستدعي أي واجهة برمجة.

# Records must be filtered for the caller's access and policy scope
# before reaching this function. These are illustrative fixtures.
records = {
    "support-policy": {
        "text": "The support channel for this workspace is email.",
        "current": True,
        "fields": {"support_channel": "email"},
    }
}


def validate(result, sources):
    keys = {"status", "field", "value", "source_id", "quote"}
    if not isinstance(result, dict) or set(result) != keys:
        return False
    if result["field"] != "support_channel":
        return False
    if result["status"] == "unknown":
        return all(result[k] is None
                   for k in ("value", "source_id", "quote"))
    if result["status"] != "answered":
        return False
    if not all(isinstance(result[k], str)
               for k in ("value", "source_id", "quote")):
        return False
    source = sources.get(result["source_id"])
    if source is None or source["current"] is not True:
        return False
    quote = result["quote"].strip()
    return (
        bool(quote)
        and quote in source["text"]
        and result["value"]
        == source["fields"].get(result["field"])
    )


proposal = {
    "status": "answered",
    "field": "support_channel",
    "value": "chat",
    "source_id": "support-policy",
    "quote": "The support channel for this workspace is email.",
}

if not validate(proposal, records):
    print("Hold: evidence or value check failed.")
elif proposal["status"] == "unknown":
    print("I cannot confirm the support channel from these records.")
else:
    print(f"Your support channel is {proposal['value']}.")

تفشل الإجابة المقترحة chat رغم أن الاقتباس صحيح. وإذا كانت القيمة email، فإنها تجتاز هذا الفحص المحدود. الحقل الموثوق هو ما يثبت الإجابة، وليس تطابق الاقتباس وحده.

فهم الحدود ضروري: لا تستطيع دالة التحقق هذه إثبات صحة شرح حر، ولا التأكد من أن المسؤول عن السياسة أدخل الحقيقة الصحيحة، ولا من أن تصفية صلاحيات الوصول في المرحلة السابقة عملت كما ينبغي. ويتحقق فرع unknown من أن بنية الاستجابة مسموحة، لا من أن الامتناع عن الإجابة كان ضروريًا. خصّص لهذه الأسئلة فحوصًا وتقييمات منفصلة. وبالنسبة إلى الحقائق المحددة ذات الأثر الكبير، قد يغني قالب تُملأ حقوله من بيانات موثوقة عن التوليد تمامًا.

تقييمات تكافئ الإجابة الصحيحة والتوقف في موضعه

التقييم، أو eval، اختبار قابل للتكرار يقارن سلوك تطبيقك بما هو متوقع منه. ابنِ تقييماتك حول الإخفاقات التي تمس العملاء، وشغّلها عند تغيير النموذج أو التعليمات أو فهرس الاسترجاع أو مخطط الأدوات أو السياسات.

سجّل النتائج كلًّا على حدة: إجابة صحيحة مسندة، وإجابة بلا سند، وامتناع مناسب، وامتناع غير ضروري، وإجراء مقترح غير صالح. فالمتوسط الواحد يخفي ما إذا كان التحسن ناتجًا عن أدلة أفضل أم مجرد رفض مزيد من الأسئلة.

استخدم الكود المعتاد لفحص القيم الدقيقة، وانتماء المصادر إلى المجموعة المعتمدة، والحقول المطلوبة، والصلاحيات، ونتائج الأدوات. واستخدم نموذجًا مقيّمًا للأسئلة التي تعتمد على فهم اللغة، مثل ما إذا كان مقطع يسند إعادة صياغة لمعناه، مع أمثلة راجعها بشر لمعايرة أحكامه. إن استخدام نموذج لغوي مقيّمًا يعني الاعتماد على نموذج آخر قابل للخطأ، وليس على مصدر مستقل للحقائق.

Promptfoo أداة للتقييم، وتضم فحوصها التي تقيّمها النماذج فحصًا لصحة المعلومات مقارنةً بمرجع، وآخر للالتزام بالسياق المقدّم. وهذا تمييز مفيد: قد تطابق الاستجابة مستندًا قديمًا، وتكون مع ذلك خاطئة اليوم. استخدم دليل Promptfoo لبناء منظومة الاختبار بعد أن تحدّد معنى اجتياز الاختبار.

احتفظ بالطلب والأدلة المسترجعة والقيم المقترحة للأدوات ونتيجة التنفيذ والرد النهائي معًا في سجل تتبّع كل اختبار. وعندما تفشل حالة، يوضّح لك هذا السجل موضع التدخل. صنّف غياب الاستشهادات والقيم غير الصالحة إخفاقات صريحة، حتى لو منح النموذج المقيّم النص درجة جيدة.

أين تتجاوز الوعود ما تستطيع التقنيات فعله؟

لا يجعل RAG كل إجابة صحيحة. قد يُسترجع مقطع مفيد ثم يُفهم خطأً، وقد يُقتبس مقطع قديم بدقة تامة. اختبر الاسترجاع والتوليد كلًّا على حدة، وعيّن مسؤولًا عن مجموعة المصادر.

نافذة السياق الأكبر لا تغني عن انتقاء المصادر. تحذّر إرشادات Anthropic لهندسة السياق من أن القدرة على استرجاع المعلومات ودقتها قد تتراجعان كلما زاد حجم السياق. ضمّن القاعدة ذات الصلة واستثناءاتها والأدلة اللازمة من الحساب. حشد كل المستندات في التعليمات الموجّهة إلى النموذج ليس سياسةً لضمان حداثة المعلومات.

قول نموذج ثانٍ «يبدو صحيحًا» لا يكفي للتحقق. زوّد المراجعين بالأدلة الفعلية ومعيار واضح. فقد يُبقي الاتفاق من دون أدلة مستقلة على الافتراض غير المسند نفسه.

سلامة صيغة JSON ليست شهادة بصحة المحتوى. يستطيع المخطط اشتراط معرّف مصدر وقيمة رقمية تُمرَّر إلى أداة، لكن يظل على تطبيقك إثبات وجود المصدر وصحة معنى الرقم.

الحدود التي تهمك هي الأسئلة التي لا تستطيع مصادرك الإجابة عنها، والحقول التي تعجز فحوصك عن التحقق منها، والإجراءات التي لا يمكنك التراجع عنها بأمان. لا توجد نسبة هلوسة عامة تخبرك بأن مسار العمل الخاص بك جاهز.

خطة يستطيع فريقك الصغير تطبيقها هذا الأسبوع

ابدأ الآن إذا كانت ميزتك تقدّم للعملاء وعودًا مبنية على حقائق أو تعدّل سجلات العمل. أما إذا كانت تكتفي بصياغة مواد يراجعها شخص مسؤول بالفعل مقابل المصادر، فابدأ بمجموعة التقييم وحسّن هذه المراجعة قبل إضافة بنية آلية معقدة. وقد لا يحتاج الاستعلام الحتمي الذي يعيد حقولًا معتمدة أصلًا إلى أي نموذج.

هذه خطة مقترحة للبدء، وليست دليلًا على أن أسبوعًا من العمل يثبت موثوقية التشغيل الفعلي.

خطوتك الأولى يوم الاثنين أن تختار إجابة خاطئة حديثة وتحفظ سجل تتبّعها كاملًا. حدّد ما إذا كانت الأدلة غائبة أو قديمة أو أُسيء فهمها أو جرى تجاوزها. أضف أبسط فحص يرصد ذلك الإخفاق، ثم حوّل الحادثة إلى حالة دائمة ضمن اختبارات منع تكرار الأخطاء.

أسئلة شائعة عن هلوسة النماذج اللغوية

للحصول على أدلة عملية لبناء مسارات عمل موثوقة بالذكاء الاصطناعي، اشترك في النشرة البريدية.