الإشراف البشري على الذكاء الاصطناعي: أين نضع حدود الوكيل؟

حين يكون خطأ الذكاء الاصطناعي مكلفًا أو يصعب التراجع عنه، اجعل القرار بيد شخص قبل التنفيذ. يتيح الإشراف البشري على الذكاء الاصطناعي 3 مواضع مفيدة للمراجعة: الموافقة قبل التنفيذ، أو مراجعة عينة من العمل المنجز، أو تولّي الحالة عند تصعيدها. حدّد الموضع المناسب لكل إجراء، ولا تخفّف الموافقات الروتينية إلا حين تدعم الأدلة ذلك التغيير بعينه.

ما المقصود بالإشراف البشري على الذكاء الاصطناعي؟

المراجعة البشرية قرار بشأن الصلاحيات: ما الإجراءات التي يُسمح للنظام بتنفيذها من دون موافقة شخص مسبقًا؟ يستطيع وكيل لخدمة العملاء قراءة طلب شراء، وصياغة رد، وتعديل سجل، وردّ مبلغ مالي، وكل ذلك في المحادثة نفسها. لكن كل إجراء من هذه الإجراءات يستحق صلاحيات مختلفة.

تخيّل حديقة يقف عند بوابتها مسؤول. لا يراقب البستاني كل خطوة؛ بل يضبط الدخول حيث يصعب إصلاح الضرر، ويتفقّد الأعمال المعتادة بعد إنجازها، ويستجيب لجرس التنبيه عند ظهور أمر غير مألوف. السؤال المفيد هنا: أين ينبغي وضع البوابة؟

ماذا يعني الذكاء الاصطناعي بمشاركة الإنسان؟

يعني مصطلح «الإنسان في الحلقة» (Human in the Loop)، الذي يُختصر عادةً إلى HITL، مشاركة البشر في تشغيل نظام ذكاء اصطناعي عبر الملاحظات أو التدخل أو اتخاذ القرارات. وهذا المعنى أوسع من مجرد زر للموافقة. أما في العمل اليومي للشركات، فينبغي أن يعبّر عن مسؤولية محددة: شخص يوافق على إجراء مقترح، أو يراجع عملًا منجزًا، أو يحسم حالة استثنائية. تعريف Stanford HAI.

يشمل المصطلح أيضًا وسم بيانات التدريب، وتصحيح مخرجات النماذج، وتوجيه التعلّم. وهذه كلها استخدامات صحيحة، لكن موافقة شخص على ردّ مبلغ اليوم لا تعيد تدريب نموذج الغد تلقائيًا. المراجعة التشغيلية تنتج أدلة؛ أما تحسين النموذج أو سير العمل فيحتاج إلى عملية منفصلة ومقصودة. شرح Google Cloud.

كيف يشارك الإنسان في عمل وكلاء الذكاء الاصطناعي؟

وكيل الذكاء الاصطناعي برنامج يستخدم نموذجًا لاختيار الخطوات واستدعاء الأدوات، مثل جلب بيانات طلب شراء أو إرسال رسالة. موضع المراجعة البشرية هو مباشرةً قبل استدعاء الأداة الذي تترتب عليه آثار مهمة. فالموافقة على خطة الوكيل في البداية لا تكشف لك أي مستلم أو مبلغ أو سجل سيختاره لاحقًا.

اجعل تنسيق هذه الخطوات واضحًا أيضًا. يشرح دليل تنسيق وكلاء الذكاء الاصطناعي كيف تنتظم الحالة المحفوظة، والمسؤوليات، وعمليات تسليم العمل حول مهام الوكيل.

مواضع التدخّل البشري الثلاثة

استخدم الموافقة لمنع إجراء محدد، ومراجعة العينات لاكتشاف الأنماط في العمل المنجز، والتصعيد لحسم الحالات الخارجة عن صلاحيات الوكيل. ويمكن الجمع بين هذه الضوابط في سير العمل نفسه.

قبل الإجراء: الموافقة

يجهّز النظام الإجراء المقترح بتفاصيله الدقيقة ثم ينتظر. ويرى المراجع المستلم أو السجل المعني، والتغيير المقترح، والأدلة ذات الصلة، والقاعدة التي استدعت المراجعة. الموافقة تتيح تنفيذ ذلك الإجراء؛ والرفض يمنعه.

استخدم هذا الأسلوب لردّ مبلغ مالي، أو إرسال رد حساس إلى عميل، أو حذف لا يمكن التراجع عنه. شاشة مراجعة لا تقول سوى «السماح لأداة الدعم؟» تحجب القرار الفعلي المتعلق بالعمل. أما «ردّ مبلغ هذا الطلب إلى وسيلة الدفع الأصلية لهذا السبب» فتمنح المراجع شيئًا واضحًا يفحصه.

بعد الإجراء: مراجعة عينة

ينفّذ النظام العمل ضمن حدود سبق التصريح بها، ثم يفحص شخص مجموعة مختارة من النتائج لاحقًا. يناسب ذلك الإجراءات محدودة الأثر التي يمكن اكتشاف أخطائها العرضية وتحمّلها، مثل تصنيف تذاكر الدعم أو إعداد الملخصات الداخلية.

لا تستطيع مراجعة العينة منع الخطأ الذي تكشفه فيها. ففي رسالة موجهة إلى عميل، قد يُصلح التصحيح مسار المحادثة، لكنه لن يجعل العميل ينسى ما قرأه في الرسالة الأصلية. احسب هذا الضرر المتبقي ضمن قرار الأتمتة.

استخدم عينة عشوائية لفهم جودة العمل المعتاد، وعينة موجّهة منفصلة للحالات غير المألوفة. فمراجعة الشكاوى وحدها تخبرك عن الإخفاقات التي أُبلغ عنها، لا عن جودة مجمل العمل المنجز.

عند التصعيد: تسليم الحالة

يُنقل التعامل مع الحالة إلى شخص حين يفتقر الوكيل إلى الأدلة أو الإذن أو قاعدة تنطبق عليها. ومن أمثلة ذلك تضارب المعلومات بشأن صاحب الحساب، أو نقص بيانات الطلب، أو استثناء من السياسة، أو طلب العميل صراحةً التحدث إلى شخص.

زوّد الشخص الذي يتسلّم الحالة بالأدلة، والإجراءات التي جرت محاولتها، والسؤال الذي لم يُحسم، والوضع الحالي. علّق الإجراء الذي يحتاج إلى تقدير بشري. ويمكن مواصلة أعمال أخرى محددة بوضوح على أنها آمنة، مثل إعداد ملخص داخلي، إذا كانت سياستك تسمح بذلك.

الإشراف البشري على مستوى الحوكمة

حين تصادف تعبير «الإنسان فوق الحلقة»، فاعتبره وصفًا لطبقة الحوكمة: الشخص الذي يضع القواعد، ويغيّر الصلاحيات، ويملك إيقاف النظام. تختلف المصطلحات بين الجهات، لذا اكتب المسؤولية نفسها بدل الاعتماد على التسمية. فالمدير الذي يتابع الأداء لا يراجع بالضرورة كل معاملة على حدة.

وللسبب نفسه، ميّز بين وجود الإنسان داخل الحلقة للموافقة ومراقبته للحلقة من الخارج. قد تكشف لوحة المتابعة مشكلة بسرعة، لكنها لا توقف التنفيذ قبل الإجراء التالي ما لم تُنشئ آلية لذلك.

احكم وفق كلفة الخطأ وإمكان التراجع عنه

اشترط الموافقة عندما يتجاوز الضرر المحتمل ما تقبل تحمّله قبل اكتشاف الخطأ ومعالجته. ثقة النموذج وحدها لا تجيب عن هذا السؤال.

قيّم الإجراء من هذه الزوايا:

• العواقب: هل يمكن أن يكشف معلومات خاصة، أو ينقل أموالًا، أو ينشئ التزامًا، أو يؤثر في الوصول إلى حساب؟
• الاستعادة: هل يمكنك إعادة الوضع السابق بالكامل وبسرعة، من دون أن تطلب من العميل إصلاح الخطأ؟
• نطاق الأثر: هل يمس الإجراء مسودة داخلية، أم عميلًا، أم دفعة كاملة من السجلات؟
• الأدلة: هل الهوية وبيانات المصدر والسياسة واضحة بما يكفي لاتخاذ القرار؟
• الاكتشاف: هل ستعرف بوقوع الخطأ قبل أن تتراكم إجراءات مشابهة؟

قد يؤدي تعديل حقل يمكن استعادته في قاعدة البيانات إلى حدث لاحق لا يمكن التراجع عنه. فتغيير عنوان الشحن قد يسهل إلغاؤه إلى أن يبدأ تجهيز الطلب. قيّم العواقب كاملةً، ولا تكتفِ بالنظر إلى وجود أمر للتراجع في قاعدة البيانات.

استخدم مراجعة العينات حين يكون الإجراء محدود النطاق، والأدلة موثوقة، والضرر المتبقي مقبولًا. واشترط الموافقة المسبقة حين تكون العواقب مهمة أو تكون القدرة على المعالجة ضعيفة. وصعّد الحالة عند غياب معلومة أو قاعدة لازمة. وإذا كان الإجراء محظورًا، فامنعه؛ ينبغي ألا تتحول قائمة الموافقات إلى وسيلة لتجاوز السياسة.

تدعم ضوابط أمان الذكاء الاصطناعي هذا التصميم، وهي فحوص آلية للمدخلات والمخرجات واستدعاءات الأدوات. ويمكنها رفض طلب غير سليم البنية أو وجهة غير مصرح بها قبل أن يهدر شخص وقته في مراجعته. ودور التقدير البشري هو معالجة ما يتبقى من غموض مشروع.

مثال عملي على الإشراف البشري: وكيل لخدمة العملاء

افصل صلاحيات وكيل خدمة العملاء بحسب نوع الإجراء. ما يلي سياسة أولية افتراضية لشركة تبدأ استخدام وكيل في دعم طلبات الشراء. إنه مثال على التصميم، وليس إعدادًا افتراضيًا لدى مزوّد، ولا تقريرًا عن نتائج جرى قياسها.

لنفترض أن عميلًا يقول إن طلبه لم يصل ويطلب استرداد المبلغ. يستطيع الوكيل جلب بيانات الطلب وحالة الشحنة لدى شركة النقل، ثم إعداد توصية. وإذا تعارضت أدلة التسليم مع رواية العميل، فإنه يصعّد القرار بدل اختلاق حل.

إذا كانت الأدلة تبرّر ردّ المبلغ وفق السياسة، يجهّز الوكيل الطلب والمبلغ والوجهة والسبب بدقة للحصول على الموافقة. وتتحقق الجهة المنفّذة من الموافقة ومن حالة الاسترداد الحالية قبل استدعاء نظام الدفع، ثم تسجّل إيصال المعاملة الذي يعيده النظام. عندها فقط يجوز للوكيل القول إن ردّ المبلغ نجح.

الموافقة على ردّ المبلغ والموافقة على الرد إلى العميل صلاحيتان منفصلتان. فالموافقة على الإجراء المالي لا تبيح اختلاق وعد بالتسليم في الرسالة المصاحبة. وبالمثل، لا تعني الموافقة على رسالة مطمئنة السماح بردّ مبلغ مخفي في استدعاء الأداة التالي.

طبّق التمييز نفسه على رسائل المبيعات الصادرة: يمكن توليد النص آليًا، بينما يحتاج إرساله إلى قائمة مستلمين جديدة إلى مراجعة. وعند تغيير البيانات، راجع الفارق الفعلي بين القيم القديمة والمقترحة، لا ملخصًا يكتفي بعبارة «تنظيف السجلات».

اجعل قائمة المراجعة قابلة للإدارة

يحتاج المراجع إلى ملف قرار متكامل، ومهلة محددة، وصلاحية للرفض. إضافة زر موافقة إلى قناة محادثة لا تحل سوى خطوة الإشعار.

ينبغي أن يعرض الملف الإجراء المحدد، والعميل أو السجل المتأثر، ومعاملات الاستدعاء المقترحة، وأدلة المصدر، ومدى انطباق السياسة، والحقائق التي لم تُحسم. اعرض القيمة السابقة بجانب التعديل المقترح. وأتح روابط إلى الأدلة الأصلية كي يستطيع المراجع التحقق من شرح الوكيل من دون إعادة بناء المحادثة كاملةً.

عيّن مراجعًا أساسيًا ومسؤولًا بديلًا. وافصل التصعيدات العاجلة عن الموافقات الروتينية. وعند انتهاء مهلة المراجعة، علّق الإجراء المنتظر أو ألغِه، وأبلغ المسؤول البديل. ينبغي ألا يصبح الصمت موافقة.

للقدرة الاستيعابية حد لا يمكن تجاهله. ففي قائمة افتراضية، 24 طلبًا في الساعة × 3 دقائق للمراجعة = 72 دقيقة من وقت المراجعين لكل ساعة. وليس لدى المراجع الواحد سوى 60 دقيقة قبل احتساب مهامه الأخرى. ستتراكم الطلبات حتى لو كان كل قرار صحيحًا. قلّل الموافقات غير الضرورية، أو ضيّق نطاق الوكيل، أو زد عدد العاملين المخصصين للمراجعة قبل أن تعد بزمن للاستجابة.

اربط الموافقة بالمحتوى ومعاملات الاستدعاء التي روجعت بدقة. إذا تغيّر المستلم، أو مبلغ الاسترداد، أو إصدار السجل، أو الرسالة، فأبطِل القرار واطلب المراجعة من جديد. وقبل التنفيذ، تحقّق مجددًا من الحقائق التي ربما تغيّرت أثناء الانتظار، مثل احتمال أن يكون موظف آخر قد ردّ مبلغ الطلب بالفعل.

يجب أيضًا أن يبقى النظام آمنًا إذا تلقّى قرار المراجعة مرتين. استخدم معرّفًا ثابتًا للإجراء، وطبّق القرار مرة واحدة، واحمِ عملية الكتابة في النظام الخارجي من التكرار. فالإجراء ذو الأثر الثابت عند التكرار هو الذي ينتج الأثر نفسه سواء نُفّذ مرة واحدة أو تكرر تنفيذه. وإذا انتهت مهلة طلب استرداد، فتحقّق من حالته الفعلية قبل محاولة دفع أخرى.

كيف تتوقف أدوات وكلاء الذكاء الاصطناعي انتظارًا للقرار البشري؟

تختلف آليات التوقف بين الأدوات؛ أما قواعد القرار فتبقى مسؤولية شركتك. جرى التحقق من الأوصاف التالية بالرجوع إلى التوثيق المنشور لدى مطوّري الأدوات في 21 أكتوبر 2026. وهي تعرض السلوك الموثّق، وليست نتائج اختبار عملي للمنتجات.

OpenAI Agents SDK: الموافقة على استدعاء الأداة المنتظر

تدعم OpenAI Agents SDK، وهي مكتبة لبناء الوكلاء داخل شيفرة التطبيقات، اشتراط الموافقة على الأدوات باستخدام needs_approval=True في Python أو needsApproval: true في JavaScript. ويعيد الاستدعاء المشروط بالموافقة إشارة توقّف وحالة تنفيذ قابلة للاستئناف. يوافق تطبيقك على العنصر المنتظر أو يرفضه، ثم يستأنف عملية التشغيل نفسها؛ ويمكن تحويل الحالة إلى صيغة قابلة للتخزين إذا تأخر القرار. توثيق الموافقات من OpenAI.

في تطبيق لخدمة العملاء، ضع بوابة الموافقة على أداة ردّ المبلغ أو الإرسال. وابنِ واجهة المراجعة حول الإجراء المنتظر. المثال المختصر في التوثيق يوافق برمجيًا على حالات التوقف المعادة؛ ونسخ تلك الحلقة التي توافق بلا شروط لن ينشئ مراجعة بشرية. يجب أن يحصل تطبيقك على قرار الشخص أولًا.

LangGraph: إيقاف العمل المحفوظ واستئنافه

تستخدم LangGraph، وهي مكتبة لسير عمل الوكلاء الذي يحتفظ بالحالة، الدالة interrupt() للتوقف انتظارًا لمدخل خارجي. اضبط مكوّنًا يحفظ نقاط التحقق في تخزين دائم، وهو المسؤول عن حفظ حالة التنفيذ، واستخدم thread_id ثابتًا. واستأنف التنفيذ عبر Command(resume=...) باستخدام معرّف سلسلة التنفيذ نفسه. توثيق التوقفات في LangGraph.

وينبّه التوثيق بوضوح إلى نقطة مهمة عند التشغيل الفعلي: تبدأ العقدة المتوقفة من بدايتها مجددًا عند الاستئناف. أي إن الشيفرة السابقة للتوقف قد تُنفّذ مرة أخرى. ضع الآثار الجانبية بعد حد المراجعة، واجعل العمليات آمنة عند تكرارها؛ ويوصي التوثيق أيضًا بفصل الآثار الجانبية في عقد مستقلة. وقد يستمر انتظار التوقف إلى أجل غير محدد، لذا أضف حوله مهلة المراجعة وآلية التصعيد الخاصة بشركتك.

n8n: ربط المراجعة البشرية بأدوات محددة

تتيح n8n، وهي منصة مرئية لأتمتة سير العمل، ربط المراجعة البشرية بأدوات مختارة متصلة بعقدة AI Agent. يتوقف سير العمل الموثّق، ويعرض الأداة المقترحة ومعاملاتها، ثم ينفّذ المدخل الذي حدده الذكاء الاصطناعي عند الموافقة أو يلغي الإجراء عند الرفض. دليل المراجعة البشرية في n8n.

افتح موصل الأدوات Tools في الوكيل، واختر قناة ضمن المراجعة البشرية Human review، ثم صِل الأدوات التي تتطلب المراجعة بتلك الخطوة. يوثّق الدليل n8n Chat وSlack ضمن القنوات المتاحة، كما يوثّق $tool.name و$tool.parameters لبناء رسالة المراجعة.

استخدم هذه الرسالة لإظهار ما يوافق عليه الشخص بوضوح. يصف الدليل الموافقة والرفض؛ فلا تفترض أنه يوفر أيضًا نموذجًا قابلًا للتحرير لردّ المبلغ. وإذا طلب المراجع تغييرات، فأعد المقترح للتعديل والحصول على موافقة جديدة.

Anthropic Claude Code: الأذونات تضبط الوصول إلى الأدوات

يوثّق وكيل البرمجة Claude Code من Anthropic أوضاع أذونات أدواته. يستخدم الوضع default، المسمّى Manual أي اليدوي، طلبات الإذن مع استثناءات للعمليات والقواعد المسموح بها. ويسمح acceptEdits تلقائيًا بتعديل الملفات وبعض أوامر نظام الملفات داخل مجلدات العمل المسموح بها. أما plan فيستكشف من دون تعديل ملفات الشيفرة المصدرية. توثيق الأذونات في Claude Code.

يستخدم الوضع auto مصنّفًا يعمل في الخلفية لمراجعة إجراءات مثل أوامر الصدفة وطلبات الشبكة. وهذا قرار مراجعة آلي. أما bypassPermissions فيتجاوز طلبات الإذن، باستثناء إجراءات موثّقة لا يمنحها أي وضع موافقة تلقائية. ولا يثبت أي من الوضعين أن شخصًا راجع كل إجراء.

تتحكم هذه الإعدادات في أذونات Claude Code أثناء التشغيل. أما خدمة دعم العملاء فتظل بحاجة إلى قواعدها الخاصة لردّ المبالغ والمستلمين والوصول إلى البيانات. ويشرح دليل تجاوز الأذونات في Claude، الأضيق نطاقًا، الحدود التشغيلية لذلك الوضع.

ما الذي ينبغي تسجيله؟

احتفظ بأدلة منظّمة تكفي لإعادة بناء صورة واضحة: من أجاز أي إجراء، وماذا حدث بعده؟ يصعب ذلك بالاعتماد على نص المحادثة وحده، خصوصًا حين تتوقف الحالة أو تنتقل بين المسؤولين.

سجّل هذه الحقول كأحداث منفصلة تربطها معرّفات الحالة والإجراء:

• المقترح: نوع الإجراء، والهدف، والمعاملات الدقيقة، وإصدار المحتوى أو بصمته الرقمية، والقيم السابقة، ومراجع المصادر الداعمة. والبصمة الرقمية علامة مميزة للمحتوى الذي خضع للمراجعة.
• مسار القرار: إصدار السياسة، والقاعدة المنطبقة، واشتراط الموافقة أو مراجعة العينة، وسبب التصعيد، ونتائج التحقق ذات الصلة.
• القرار البشري: المراجع الموثّقة هويته، وصلاحيته لهذا الإجراء، ونتيجة الموافقة أو الرفض، والتعديلات المطلوبة، والسبب، والطابع الزمني، وموعد انتهاء الصلاحية.
• التنفيذ: معرّف الإجراء المعتمد، وإصدارات سير العمل وإعدادات النموذج، ومعرّف المحاولة، ونتيجة الأداة، والإيصال الخارجي، والحالة النهائية. ميّز بين الفشل والنجاح والنتيجة غير المعروفة.
• مراجعة الجودة: كيفية اختيار الحالة ضمن العينة، ونوع الخطأ المرصود، وشدته، والإجراء التصحيحي، وما إذا كانت قاعدة الصلاحيات قد تغيّرت.
• حالة قائمة المراجعة: وقت الوصول، والمسؤول المعيّن، ومدة الانتظار، ووقت المراجعة الفعلي، وحالة تجاوز المهلة، ونتيجة تسليم الحالة.

قيّد الوصول إلى الأدلة الحساسة، واحجب الأسرار، وحدّد قواعد الاحتفاظ بالبيانات. أشر إلى سجل المصدر المحمي حيثما أمكن، بدل نسخ بيانات كل عميل إلى كل سجل. دوّن أسباب القرار وأدلته بإيجاز؛ فلا تحتاج إلى الاستدلال الخفي للنموذج لتدقيق موافقة.

حدّد المسؤوليات والإجراءات المحظورة ومسؤوليات التصعيد في سياسة الاستخدام المقبول للذكاء الاصطناعي. يبيّن السجل ما إذا كانت تلك السياسة قد اتُّبعت، لكنه لا يعوّض سياسة لم يكتبها أحد.

خفّف المراجعة تدريجيًا، نوعًا واحدًا من الإجراءات في كل مرة

اسمح بالتنفيذ التلقائي لقدرة محدودة أثبتت كفاءتها، وأبقِ الإجراءات الجديدة أو ذات التبعات المهمة خاضعة للمراجعة. فالمؤشر العام لـ«دقة الوكيل» يخلط مخاطر مختلفة، ولا يصلح أساسًا قويًا لتغيير الصلاحيات.

1. 1

   ابدأ بالمقترحات

   دع الوكيل يصوغ الإجراءات المقترحة بينما يقرر البشر. صنّف أنواع الأخطاء: مستلم خاطئ، أو ادعاء بلا سند، أو مبلغ غير صحيح، أو أدلة ناقصة، أو تصعيد غير ضروري. ابنِ من هذه الحالات مجموعة تقييم تمثيلية، مع ضوابط الوصول المناسبة.

2. 2

   اشترط الموافقة ضمن نطاق محدد

   لا تُتح التنفيذ إلا بعد الموافقة. تحقّق من أن الرفض يمنع الإجراء، وأن تغيير المعاملات يبطل الموافقة، وأن تكرار القرار لا يكرر عملية الكتابة. اختبر انتهاء المهل والنتائج الخارجية غير المحسومة قبل توسيع الصلاحيات.

3. 3

   انقل الإجراءات المناسبة إلى مراجعة العينات

   اختر فئة محددة، مثل الردود المعتادة عن حالة الطلب استنادًا إلى بيانات موثّقة. حدّد عتبة القبول، وطريقة اختيار العينة، والمسؤول عن المراجعة، وشرط الإيقاف قبل الاطلاع على النتائج. وأبقِ الحالات التي تستوجب التصعيد الإلزامي مفعّلة.

4. 4

   أعد المراجعة عند تغيّر الظروف

   اعتبر أي تغيير في النموذج أو الموجّه أو السياسة أو الأداة أو مصدر البيانات سببًا لإعادة تقييم الصلاحية المتأثرة. وإذا وقع حادث جسيم أو ساءت نتائج العينات، فأعد بوابة الموافقة المعنية إلى حين انتهاء التحقيق.

تابع الأخطاء الضارة، وتصحيحات المراجعين، والتصعيدات التي فاتت، وجهد المعالجة، بحسب فئة الإجراء. وافصل التعديلات الشكلية عن التغييرات التي منعت ضررًا. وسجّل عدد الإجراءات التي روجعت والعدد الكلي للإجراءات المؤهلة للمراجعة. احسب معدل خطأ العينة استنادًا إلى الإجراءات التي خضعت للمراجعة، وأبقِ العينات العشوائية والموجّهة منفصلة؛ فمجموعة صغيرة من النجاحات التي جرت مراجعتها لا تثبت موثوقية النظام بأكمله.

لا يكفي معدل الموافقة وحده: فقد يوافق المراجع لأن العمل جيد، أو لأن ملف القرار لا يقدم معلومات مفيدة، أو لأن قائمة الانتظار تفوق قدرته. افحص قرارات المراجعة نفسها دوريًا. وجود الإنسان يتيح فرصة لاكتشاف الأخطاء، لكنه لا يضمن ذلك.

أين تقع المبالغة؟

عبارة «هناك إنسان في الحلقة» تظل ناقصة ما لم تعرف ما الذي يراه وما الذي يستطيع إيقافه. فالشخص الذي يتلقى إشعارًا بعد ردّ المبلغ يمارس رقابة لاحقة، ولا يمنح موافقة قبل الإجراء.

كذلك لا تكفي عبارة «اشترط الموافقة على كل شيء حتى تتعزز الثقة». فمن دون معايير واضحة، تشجع العملية الإرهاق وتجعل توسيع الصلاحيات استجابةً لنفاد الصبر. ينبغي أن تأتي الثقة من أدلة تخص كل نوع من الإجراءات، ومن قدرة موثوقة على معالجة الأخطاء.

وأخيرًا، لا تحسّن الملاحظات البشرية النظام من تلقاء نفسها. لا بد أن يحوّلها شخص إلى بيانات مصدر أفضل، أو قواعد أوضح، أو موجّهات منقّحة، أو تغييرات في النموذج خضعت للتقييم. احسب هذا العمل حين تعيّن المسؤول عن حلقة المراجعة.

ما الخطوات العملية ليوم الاثنين؟

على فرق التشغيل حصر الإجراءات التي يستطيع الوكيل تنفيذها وتحديد موضع المراجعة لكل منها. ابدأ بجدول الدعم، وحدّد صاحب الموافقة الفعلي، وتأكد من وجود مسؤول عن قائمة المراجعة خلال ساعات الخدمة التي تعد بها.

وعلى المطوّرين فرض القاعدة عند التنفيذ. احفظ الإجراء المقترح، واربط الموافقة بإصداره، وتحقق من السلوك الصحيح عند الرفض، وانتهاء الصلاحية، وتكرار القرارات، وتغيير المعاملات. وأبقِ النموذج عاجزًا عن منح نفسه الموافقة.

أما المؤسسون والمشترون، فعليهم طلب عرض عملي لإجراء مرفوض ولمهلة مراجعة تنتهي من دون استجابة. تكشف هذه الحالات ما إذا كان النظام يملك ضوابط تشغيلية فعلية أم يكتفي بإرسال إشعار للموافقة.

تحرّك الآن إذا كان الوكيل يستطيع بالفعل إرسال الرسائل، أو نقل الأموال، أو تغيير بيانات العملاء من دون حدود محددة. وأجّل توسيع استقلاليته إذا لم تُحسم السياسة أو القدرة الاستيعابية للمراجعين. أما المساعد الداخلي الذي يكتب المسودات ولا يستطيع تنفيذ إجراءات خارجية، فقد تكفيه مراجعة تحريرية معتادة بدل إنشاء نظام موافقات جديد.

أسئلة شائعة عن المراجعة البشرية

ما المقصود بوجود الإنسان في حلقة الذكاء الاصطناعي؟

يعني مشاركة شخص في تشغيل نظام ذكاء اصطناعي عبر المراجعة أو الملاحظات أو القرارات. وبالنسبة إلى الوكلاء الذين يؤدون أعمالًا للشركات، حدّد هل يوافق الشخص قبل الإجراء، أم يراجع عينة من العمل المنجز، أم يتعامل مع الاستثناءات.

ماذا يعني أن يكون الإنسان جزءًا من حلقة العمل؟

يعني أن التقدير البشري جزء صريح من العملية. والتطبيق المفيد يحدّد المراجع، والقرار الذي يتولاه، والأدلة التي يراها، وما يفعله النظام أثناء الانتظار.

هل وجود الإنسان في الحلقة هو نفسه الذكاء الاصطناعي القائم على الوكلاء؟

يمكن استخدامه مع الذكاء الاصطناعي القائم على الوكلاء، لكن المصطلحين مختلفان. فالوكيل يختار الخطوات ويستخدم الأدوات؛ أما وجود الإنسان في الحلقة فيصف موضع تأثير البشر في ذلك العمل أو منح الإذن له.

كيف نحافظ على دور الإنسان في عمل الذكاء الاصطناعي؟

ضع بوابات موافقة أمام استدعاءات الأدوات ذات التبعات المهمة، وخصّص أشخاصًا لمسار التصعيد، وراجع عينة محددة من العمل المنجز المؤهل لذلك. سجّل القرار والنتيجة، ثم عدّل الصلاحيات استنادًا إلى الأدلة الخاصة بكل فئة من الإجراءات.

لماذا يعلق الذكاء الاصطناعي في حلقة تكرار؟

في سير عمل الوكيل، قد تمنع إعادة المحاولات، أو تكرار اختيار الأدوات، أو عمليات تسليم العمل غير المحسومة، إحراز التقدم. حدّد شروطًا للتوقف ومسؤولًا عن التصعيد. وتختلف حلقة التعثر هذه عن حلقة المراجعة البشرية المقصودة التي يناقشها المقال.

للحصول على أدلة عملية لإدخال الذكاء الاصطناعي في سير عمل الشركات، اشترك في النشرة البريدية.