المدير العام
قبل أن أوافق على إرسال وكيل ذكاء اصطناعي تحديثاً إلى عميل، أريد أكثر من زر «سماح». أريد معرفة ما سيُرسل، وإلى من، وباستخدام أي معلومات، وبصلاحية ممن.
تفيد الموافقة البشرية عندما تتعلق بفعل محدد وحدود يمكن للنظام إنفاذها. فالإذن بإعداد مسودة لا يعني تلقائياً الإذن بإرسالها. والموافقة على نسخة واحدة إلى مستلم واحد لا تحسم جواز إضافة مرفق أو مستلم آخر.
هذه مسألة تصميم عملية للفرق التي تنتقل من مساعد يقترح العمل إلى وكيل يستطيع تغيير السجلات أو التواصل خارج المؤسسة. والاختبارات التالية مقترحات للمراجعة، وليست ادعاءً بأن منتجاً معيناً يطبقها بالفعل.
لنتأمل وكيلاً افتراضياً يعدّ إشعاراً بتأخر الخدمة. ينبغي أن تعرض الموافقة الوجهة والنص النهائي والمرفقات وسجل العميل المعني. ويجب التمييز بين الالتزام المقترح وحقيقة التسليم المؤكدة. لا ينبغي أن يضطر المراجع إلى إعادة بناء الفعل من سجل محادثة طويل.
سأسجل الفعل المسموح به والسجلات التي يشملها، وصاحب صلاحية الموافقة، والحدود، وشرط انتهاء الإذن. وقد تعتمد المؤسسة سياسة مسبقة لعملية متكررة منخفضة المخاطر، لكن ذلك يظل محتاجاً إلى مسؤول واضح وإمكانية سحب الصلاحية.
ينبغي أن تُفهم الحدود بلغة العمل. فعبارة «حدّث هذه الحالة بالملخص المعتمد» أوضح للمراجع التشغيلي من إذن عام بالكتابة في نظام إدارة العملاء.
حذّر بيل فيشر ورايان غالوزو في مقال لـNIST نُشر في أغسطس 2026 من أن الإفراط في طلب تدخل الإنسان قد يسبب إرهاق الموافقة. ووضعا ضبط الوكلاء ضمن ممارسات الهوية والتفويض، بدلاً من اعتبار كثرة المطالبات دليلاً كافياً على المساءلة. هذه إرشادات وليست اعتماداً لتنفيذ معين. [1]
أستخلص من ذلك ضرورة تركيز الانتباه: يجب أن يكون العمل الروتيني داخل الحدود المعتمدة متوقعاً، وأن يعود التغيير الجوهري إلى شخص يستطيع الحكم عليه. كثرة الأسئلة قد تحجب القرارات التي تستحق المراجعة فعلاً.
تحدد إرشادات OWASP بشأن الصلاحيات المفرطة للوكيل ثلاث مشكلات: وظائف وصلاحيات واستقلالية أكثر من اللازم. وتوصي بتقييد الإمكانات وإنفاذ التفويض في الأنظمة المستقبلة، وبموافقة بشرية على الأفعال عالية الأثر. التزام النموذج بالتعليمات لا يقوم مقام ضبط الوصول. [2]
سأستخدم بيئة معزولة وسجلات اصطناعية لاختبارات القبول الآتية:
يجب تحديد السلوك المتوقع بحسب سير العمل الفعلي. هذه حالات قبول مقترحة، وليست تقييماً أمنياً شاملاً أو وصفة تنفيذ تصلح لكل الأنظمة.
يربط السجل المفيد بين الطلب والنسخة المعتمدة وصلاحية المراجع ونتيجة التنفيذ والاستثناءات. لا تنسخ محتوى حساساً غير ضروري إلى السجلات لمجرد إظهار الشمول. فالاحتفاظ والوصول يحتاجان إلى قرارات مستقلة.
ثم درّب الشخص الذي سيتولى المراجعة. أعطه طلباً معقولاً يتضمن التزاماً أو وجهة تغيرت. هل يستطيع اكتشاف الفرق وفهم أثره؟ هذه المهمة البشرية تطبيق مناسب لمنهجية Practice-Native Learning إلى جانب الاختبارات التقنية.
قبل التشغيل، سأطلب من مسؤول العمل والمسؤول التقني وصف حدود الموافقة كلٌّ على حدة. إذا اختلفت الإجابتان، فليست الواجهة هي المشكلة الأساسية بعد. يجب الاتفاق أولاً على الصلاحية نفسها.
Practice-Native Learning: منهج Altaius
طوّر القدرات القيادية من خلال محاكاة قابلة للتوسع وواعية بالثقافة، مدعومة برؤى قابلة للقياس.
