وكلاء الذكاء الاصطناعي مع تدخل بشري (Human-in-the-Loop): أين تضع بوابة الموافقة وكيف تبنيها
Agents 8 min2026-06-25

وكلاء الذكاء الاصطناعي مع تدخل بشري (Human-in-the-Loop): أين تضع بوابة الموافقة وكيف تبنيها

الوكيل الذي يتوقف لطلب الموافقة، ويقبل التعديلات، ويصعّد الأمر عند عدم التأكد هو النسخة التي تصل إلى بيئة الإنتاج. إليك أين تضع كل نقطة تحقق، وتكلفتها، وكيف تعمل عملية الإيقاف المؤقت فعليًا.

تخيل وكيل ذكاء اصطناعي (AI agent) يكتب مسودة عقد إيجار تجاري ويرسلها مباشرة عبر البريد الإلكتروني للمستأجر بدون أي مراجعة بشرية. هذه ليست أتمتة. هذه كارثة قانونية قادرة على إرسال إيميلات.

النماذج اللغوية (Language models) تخطئ بنسبة معينة، ومهما بلغت براعتك في كتابة الموجّه (prompt)، فلن تصل نسبة الخطأ إلى الصفر. الفرق التي تحاول ذلك تنتهي عادةً بكومة متزايدة من تعليمات "لا تفعل X أبدًا". هذه الكومة تصبح صعبة الصيانة، ومع ذلك تسمح بمرور بعض الأخطاء العرضية. تبديل عائلة نموذج بأخرى يغير فقط من طبيعة الأخطاء، لكنه لا يلغيها.

أنظمة الإنتاج (Production systems) تتقبل وجود الأخطاء وتُصمم للتعامل معها. يقوم الوكيل بالجزء البطيء: يجمع السياق، ويكتب مسودة المخرجات، ويجهز الإجراء. ثم يتوقف. يقوم شخص بمراجعة العمل، ولا يكمل الوكيل عمله إلا بعد موافقة هذا الشخص. يُطلق على هذا النهج اسم التدخل البشري (human-in-the-loop) أو HITL. إنها الطريقة الأكثر موثوقية التي نعرفها لنقل وكيل عالي المخاطر من المرحلة التجريبية إلى الاستخدام اليومي.

ثلاث طرق لتدخل العنصر البشري في مسار العمل

غالبًا ما يُستخدم مصطلح "التدخل البشري" ليعني "وجود نافذة دردشة". لكن في بيئة الإنتاج، المعنى أدق من ذلك. تُبرمج نقاط محددة في مسار عمل الوكيل للتوقف المؤقت وانتظار تدخل بشري. عمليًا، هناك ثلاثة أنواع.

بوابة الموافقة (Approval gate). يُنهي الوكيل جزءًا من العمل ويتوقف قبل اتخاذ أي إجراء يخرج للعملاء أو لا يمكن التراجع عنه. من الأمثلة: إرسال عرض سعر، أو إصدار استرداد مالي، أو الكتابة في نظام ERP. يقوم المراجع بالموافقة أو الرفض. الموافقة تُنفذ الإجراء، والرفض يوقفه.

التعديل والاستئناف (Edit and resume). غالبًا ما تكون المسودة صحيحة في معظمها. رفضها يعني إهدار عمل تم الدفع مقابله بالفعل. لذلك، يقوم المراجع بتصحيح الحقول الخاطئة ويعيد إرسال النسخة المصححة. يواصل الوكيل عمله معتمدًا على نسخة المراجع كمصدر جديد للحقيقة.

التصعيد (Escalation). أحيانًا يفتقر الوكيل إلى الصلاحية أو الحقائق لاتخاذ قرار، ولا ينبغي له التخمين. تخيل طلب استرداد مالي بعد خمسة أيام من انتهاء فترة الـ 30 يومًا من عميل يشير إلى عيب معروف في المنتج. يرسل الوكيل سؤالًا محددًا إلى شخص مختص. تصبح إجابة هذا الشخص بمثابة تعليمة، ويكمل الوكيل الحالة. فحص المخرجات الذي لا يستطيع تحديد ما إذا كانت المسودة آمنة يستخدم نفس المسار. قراره يكون "تصعيد"، وتنتظر المسودة تدخلًا بشريًا.

كل نمط يضيف تأخيرًا ويكلف وقتًا للمراجع، لذا ضعها فقط في الأماكن التي يكون فيها الخطأ مكلفًا. هذا الجدول يوضح كيف نتخذ القرار:

ما يوشك الوكيل على فعلههل يمكن التراجع عنه؟من يراه؟النمط
قراءة، بحث، تلخيص للاستخدام الداخلينعمموظفون داخليونلا توجد نقطة تحقق. قم بتسجيله (Log it).
كتابة مسودة ملاحظة داخلية أو تحديث تذكرةنعمموظفون داخليونلا توجد نقطة تحقق. فحص عشوائي لعينة.
إرسال أي شيء لعميل، مستأجر، أو مريضلاجهة خارجيةبوابة موافقة، مع السماح بالتعديل
نقل أموال، تغيير شرط في عقد، حجز مخزوننادرًاجهة خارجيةبوابة موافقة مع فحص حقول إلزامي
التعامل مع حالة تخرج عن السياسة المكتوبةيعتمدكلاهماتصعيد مع سؤال محدد
حذف أو الكتابة فوق السجلاتلاكلاهمابوابة موافقة، بالإضافة إلى مُحفّز بشري منفصل

ما تقرره فعليًا هو قابلية التراجع والجمهور المستهدف. المسودة الداخلية الخاطئة تكلف بضع دقائق. الإيميل الخاطئ لعميل يكلفك العلاقة بأكملها. العمل الوارد (Inbound work) له بوابة في نفس المكان، قبل أن يصل أي شيء للعميل. لقد بنينا Verel Coordinator حول هذه البوابة: فهو يوجه العمل الوارد حسب قواعدك ويحتفظ بالردود الموجهة للعملاء لإجراء فحص الامتثال.

الجانب الاقتصادي: احسب الأرقام بنفسك

الاعتراض المعتاد: إذا كان على شخص ما مراجعة كل شيء، فلماذا نؤتمت العمل؟ الإجابة هي أن مراجعة المسودة تستغرق وقتًا أقل بكثير من كتابتها. استخدم حجم العمل الخاص بك بدلاً من تقديراتنا. لكل بنية، التكلفة الأسبوعية هي:

  • ▸يدوي: المهام × الدقائق لكل مهمة × معدل الأجر بالساعة ÷ 60، بالإضافة إلى تكلفة أخطاء الموظفين المرهقين
  • ▸مستقل بالكامل: المهام × تكلفة الذكاء الاصطناعي لكل مهمة، بالإضافة إلى المهام × معدل خطأ الوكيل × متوسط تكلفة الخطأ الواحد
  • ▸تدخل بشري (HITL): المهام × دقائق المراجعة × معدل الأجر بالساعة ÷ 60، بالإضافة إلى المهام × تكلفة الذكاء الاصطناعي لكل مهمة، بالإضافة إلى الأخطاء التي يغفل عنها المراجعون × تكلفة الخطأ الواحد

هناك عاملان يحسمان الأمر عادةً. الأول هو مقارنة وقت المراجعة بوقت إنجاز المهمة يدويًا. بالنسبة للعمل المنظم مثل الفواتير، ونماذج الاستلام، والردود القياسية، تستغرق المراجعة جزءًا بسيطًا من الوقت اليدوي. قم بقياس الوقت على عينة من الحالات الحقيقية قبل الاعتماد على ذلك. العامل الثاني هو تكلفة الخطأ الواحد. عندما تكلف دفعة خاطئة أو بند عقد خاطئ أكثر من شهر من وقت المراجعة، فإن الاستقلالية الكاملة تكون الخيار المكلف. السعر لكل مهمة لا يغير هذه الحقيقة.

الدقائق الموفرة تُحسب فقط عندما تتحول إلى أموال أو سعة إنتاجية. قم بتطبيق عامل التحقيق على التوفير في وقت المراجعة قبل مقارنة الخيارات الثلاثة.

TIP

لا تسعَ وراء أتمتة بنسبة 100%. التعامل مع الحالات القياسية يستغرق أسابيع. محاولة تغطية آخر الحالات الاستثنائية (edge cases) تستغرق أشهرًا، والنتيجة غالبًا ما تكون هشة. ضع بوابة موافقة الآن وابدأ في جني التوفير من الحالات القياسية.

تغطي تفاصيل تكلفة الوكيل تكاليف البناء.

الإيقاف المؤقت لأيام دون كسر النظام

ما يهم العمل هنا هو المتانة (durability). قد يجيب المراجع في خمس دقائق أو بعد عطلة نهاية أسبوع طويلة. لا يمكن لمسار العمل أن يفقد مكانه، أو يبقي الخادم مفتوحًا، أو يسقط المعاملة بصمت أثناء الانتظار.

طلب الويب المعتاد يستسلم بعد 30 إلى 60 ثانية. إذا كانت خطوة الموافقة داخل هذا الطلب، فستفشل قبل أن يفتح المراجع الإشعار. النسخ التجريبية تقع في هذا الفخ طوال الوقت. فهي تحتفظ بتقدم الوكيل في الذاكرة، لذا فإن إعادة تشغيل الخادم أو تحديث الصفحة يمسح كل شيء.

الحل هو حفظ حالة عمل الوكيل بالكامل في قاعدة بيانات بعد كل خطوة. يسمي LangGraph هذا بـ checkpointer. عند نقطة الموافقة، يحفظ الوكيل حالته، ويرسل إشعارًا، ويتوقف عن العمل. لا يستهلك أي موارد حوسبة أثناء الانتظار. نقرة المراجع تُفعّل webhook، والذي يحمّل الحالة المحفوظة ويستأنف العمل من النقطة التي توقف عندها بالضبط.

إليك جوهر الفكرة في LangGraph، مع حفظ الحالة في Postgres. تصف وثائق التدخل البشري الخاصة بـ LangGraph دالة interrupt() بأنها توقف تنفيذ الـ graph عند نقطة معينة وتنتظر مدخلات خارجية قبل المتابعة.

</>View technical implementation · عرض التفاصيل التقنية
from langgraph.types import interrupt, Command
from langgraph.checkpoint.postgres import PostgresSaver

def review(state):
    # Pauses here. The payload is what the reviewer UI displays.
    decision = interrupt({"draft": state["draft"], "sources": state["sources"]})
    if decision["action"] == "edit":
        return {"draft": decision["draft"], "approved": True}
    return {"approved": decision["action"] == "approve"}

with PostgresSaver.from_conn_string(DB_URI) as checkpointer:
    checkpointer.setup()  # first run only: creates the checkpoint tables
    graph = builder.compile(checkpointer=checkpointer)
    config = {"configurable": {"thread_id": "invoice-4821"}}

    graph.invoke({"invoice_id": "4821"}, config)  # runs until interrupt()

    # Later, in the webhook handler, possibly another process:
    graph.invoke(Command(resume={"action": "approve"}), config)

يربط thread_id استدعاء الاستئناف بالتشغيل المتوقف الصحيح. أي شيء تمرره إلى Command(resume=...) يصبح القيمة المرجعة لدالة interrupt().

هناك سلوك يفاجئ الفرق. عند الاستئناف، يقوم LangGraph بتشغيل الخطوة المتوقفة مرة أخرى من سطرها الأول. أي تأثير جانبي (side effect) يوضع قبل interrupt() في تلك الخطوة سيحدث مرتين، سواء كان استدعاء API، أو إيميل، أو كتابة في قاعدة البيانات. ضع التأثيرات الجانبية في خطوة منفصلة بعد المراجعة. يغطي النمط 2 من أنماط إنتاج LangGraph الخاصة بنا إعداد نقاط التحقق هذا بتفصيل أكبر.

ما يراه المراجع يحدد ما إذا كان هذا مجديًا

القدرة على الإيقاف المؤقت لا معنى لها إذا كانت المراجعة بطيئة. لنفترض أن المراجع يضطر لإعادة قراءة مستند مصدر مكون من 20 صفحة للتحقق من ملخص من سطرين. المراجعة الآن تستغرق نفس وقت إنجاز العمل يدويًا، وتختفي التوفيرات.

شاشة المراجعة الجيدة تعرض ثلاثة أشياء في وقت واحد:

  1. ▸الإجراء المقترح. ما سيحدث بالضبط، على سبيل المثال: "إرسال هذا الإيميل إلى هذا العنوان."
  2. ▸المدخلات. البيانات التي استخدمها الوكيل لاتخاذ القرار.
  3. ▸الاقتباسات. الفقرة أو السجل الدقيق وراء كل ادعاء، مُميزة في المصدر.

ضع المراجعة في المكان الذي يعمل فيه فريقك بالفعل. إذا كانوا يستخدمون Slack باستمرار، يمكن للوكيل نشر المسودة، ورابط المصدر، وأزرار الموافقة والتعديل. إذا كنت بحاجة إلى مسارات تدقيق (audit trails) أو وصول قائم على الأدوار، فقم ببناء شاشة مراجعة مخصصة. في كلتا الحالتين، يقوم المراجع بالتعديل بدلاً من الكتابة من الصفر.

ثم هناك المشكلة التي تقوض التصميم بأكمله: انحياز الأتمتة (automation bias). الأشخاص الذين يرون الوكيل يصيب عدة مرات متتالية يبدأون في الموافقة دون قراءة. اجعل المراجعين يتفاعلون:

  • ▸فحوصات الحقول الإلزامية. للقيم الخطرة، يؤكد المراجع كل قيمة قبل أن يصبح زر الموافقة متاحًا. مثال: "الخصم يساوي أو يقل عن الشريحة المعتمدة."
  • ▸عناصر اختبار مزروعة. ضع عناصر بها أخطاء معروفة في قائمة الانتظار وتتبع من يكتشفها. هذا يقيس الانتباه بشكل مباشر.
  • ▸تتبع سرعة الموافقة. الموافقة التي تأتي أسرع مما يمكن لأي شخص قراءة المسودة هي إشارة تحذير. قم بتمييزها.

خطط للمراجع الذي لا يجيب أبدًا. ضع حدًا زمنيًا لكل موافقة. عندما ينتهي الوقت، يرسل النظام العنصر إلى مراجع بديل أو مدير. لا ينبغي أبدًا أن يظل مسار العمل المتوقف محظورًا إلى أجل غير مسمى دون أن يلاحظه أحد. بوابة الموافقة هي واحدة من سبع ضوابط؛ أنماط الفشل الستة الأخرى وضوابطها موجودة في المنشور الرئيسي.

→ عندما يخطئ وكيل الذكاء الاصطناعي: أنماط الفشل والضوابط التي تحتويها → لماذا تفشل حواجز الحماية للموجّهات (Prompt Guardrails) في بيئة الإنتاج، وما الذي يفعله فحص المخرجات بدلاً من ذلك → توجيه العملاء المحتملين بالذكاء الاصطناعي في الشركات الخاضعة للرقابة: من يحق له قول ماذا للعميل، وكيف يفرضه النظام

الأسئلة الشائعة

هل يبطئ التدخل البشري من العملية؟ في وقت الآلة، نعم، لأن النظام ينتظر شخصًا. في وقت العمل، عادة لا. مسودة جاهزة في ثوانٍ وتتم الموافقة عليها بعد ساعتين تظل أفضل من تقرير يكتبه شخص بعد ثلاثة أيام من الآن. قم بقياس وقت الإنجاز بالكامل، وليس زمن استجابة النموذج.

هل يمكننا الاستغناء عن العنصر البشري تدريجيًا بمرور الوقت؟ لبعض الفئات، نعم، إذا كانت البيانات تدعم ذلك. سجل كل مقترح بجانب ما وافق عليه المراجع فعليًا. عندما تُظهر فئة معينة سلسلة طويلة من الموافقات دون تعديلات، انقلها إلى الفحص العشوائي. احتفظ بالبوابات على أي شيء لا يمكن التراجع عنه أو موجه للعملاء حتى تبرر تكلفة الخطأ إزالتها. في الاتحاد الأوروبي، تغطي المادة 14 من اللائحة (EU) 2024/1689، قانون الذكاء الاصطناعي، هذا الأمر. فهي تتطلب تصميم أنظمة الذكاء الاصطناعي عالية المخاطر بحيث يمكن للأشخاص الطبيعيين الإشراف عليها بفعالية أثناء الاستخدام.

ماذا يحدث إذا كان الوكيل مخطئًا ووافق المراجع على أي حال؟ تقع مسؤولية هذا الخطأ على عمليتك، وليس على النموذج. لهذا السبب تهم فحوصات الحقول الإلزامية، وعناصر الاختبار المزروعة، وتتبع سرعة الموافقة المذكورة أعلاه. يجب أن تسجل كل موافقة من وافق، ومتى، وماذا رأى. حينها يمكن تتبع الخطأ وإصلاحه.

وكلاء أتمتة مسارات العمل →
وكلاء يكتبون في أنظمتك خلف بوابات الموافقة والسجلات. تكلفة ثابتة من 8 آلاف إلى 45 ألف دولار، من 6 إلى 8 أسابيع، مع تسليم الكود المصدري بالكامل.

هذا الأسبوع: ضع بوابة لإجراء واحد وقم بقياس وقته

اختر إجراءً واحدًا لا يمكن التراجع عنه يتخذه وكيلك اليوم: إيميل يرسله، سجل يكتبه، دفعة يُطلقها. ضع بوابة أمامه، حتى لو كانت بسيطة تنشر المسودة في قناة وتنتظر الرد. ثم قم بقياس وقت المراجعة على 20 حالة حقيقية. هذه الأرقام العشرين ستخبرك ما إذا كانت الحسابات الاقتصادية أعلاه تنطبق على عملك، قبل أن تنفق أي شيء على شاشة مراجعة.

الخدمات ذات الصلة