كيف أختبر صلاحيات المستندات في مساعد مؤسسي يعتمد على RAG

إذا سألت مساعداً داخلياً عن مستند لا يحق لي قراءته، فيجب أن تحترم الإجابة هذا القيد. فقد يكشف الملخص المعلومات نفسها التي يكشفها تنزيل الملف.

يبدو ذلك بديهياً. لكنه يصبح أكثر تعقيداً عندما ينسخ النظام المستند إلى فهرس، ويقسمه إلى مقاطع، ويسترجعه مع مواد أخرى، ثم يستشهد به في محادثة تبقى مفتوحة عدة أيام.

تختبر مراجعة صلاحيات التوليد المعزز بالاسترجاع، أو RAG، ما إذا كان كل مستخدم يحصل فقط على المعلومات المخول له الوصول إليها أثناء الاسترجاع وتوليد الإجابة. وتشمل أيضاً ما يحدث عندما تتغير الصلاحيات.

سأتعامل معها بوصفها اختبارات يمكن ملاحظة نتائجها عبر النظام. مكتبة المستندات المحمية نقطة بداية مهمة، لكنها لا تثبت وحدها ما يحدث لكل نسخة مشتقة من المستند.

أنشئ مجموعة اختبار صغيرة بحدود معروفة

استخدم مستندات اصطناعية في بيئة اختبار معزولة. ضع في كل مستند علامة مميزة يسهل التعرف عليها في النص المسترجع والإجابات والسجلات.

يمكن أن تتضمن المجموعة سياسة شراء عامة، وملحقاً مالياً، ومستند مشروع مقتصراً على فريق واحد. استخدم هويات اختبار تختلف حقوق وصولها بوضوح.

العلامة بيانات اختبار وليست سراً حقيقياً. الغرض منها كشف الإفصاح غير المتوقع من دون تعريض مواد سرية فعلية للخطر.

تصف هذه المصفوفة مثال الاختبار فقط. قد تكون قواعد الإنتاج أكثر تعقيداً، خصوصاً عندما يعتمد الوصول على عدة مجموعات أو حدود بين العملاء أو تصنيفات حساسية.

افحص ما يصل إلى النموذج

اطرح أسئلة تقود بطبيعتها إلى كل مستند. افحص الإجابة النهائية والمواد المسترجعة لتوليدها.

إذا وصل مقطع مقيد إلى النموذج ولم يظهر بالمصادفة في الإجابة، فقد فشل قيد الاسترجاع رغم ذلك. لن أعتمد على تعليمات نصية للنموذج كي يحافظ على سرية مقطع لم يكن ينبغي أن يصله.

تشرح إرشادات مايكروسوفت لتأمين أنظمة RAG متعددة العملاء ضرورة قصر معلومات الاستناد على ما يحق للعميل والمستخدم الوصول إليه. يختلف التنفيذ بحسب البنية، ولذلك يجب أن يتبع الاختبار المسار الفعلي من الهوية إلى الاسترجاع.

راجع الواجهة أيضاً. قد يكشف عنوان المصدر أو مقتطف الاستشهاد أو سؤال المتابعة المقترح معلومات مقيدة حتى لو كانت الإجابة الرئيسية حذرة. احتفظ بهذه المخرجات ضمن أدلة الاختبار.

اسحب الصلاحية أثناء محادثة مفتوحة

ابدأ محادثة بهوية تستطيع الوصول إلى الملحق المالي. ثم اسحب الصلاحية المعنية وكرر السؤال وفق سلوك التحديث الموثق للنظام.

اختبر محادثة جديدة والمحادثة القائمة. راجع الاسترجاع وذاكرة الإجابات المؤقتة وأي سجل محادثة يمكن إعادة استخدامه ضمن السياق.

يحتاج النظام إلى سياسة معلنة للمادة التي عُرضت سابقاً ولما يمكن استخدامه في الإجابات اللاحقة. سحب الصلاحية لا يجعل الإنسان ينسى ما قرأه بصورة مشروعة. لكنه قد يغير ما يسمح للخدمة باسترجاعه أو كشفه بعد ذلك.

سجّل مدة انتشار تغييرات الصلاحيات. إذا كانت البنية تتضمن تأخيراً في التحديث، فيجب أن يعرفه المسؤول ويقيّم مدى قبوله ويأخذه في إجراءات التشغيل.

كرر الاختبار عند حذف مستند أو نقله إلى مجموعة مختلفة أو استبداله بنسخة ذات وصول أضيق.

اختبر الأسئلة التي تجمع أكثر من مصدر

قد يسترجع طلب مقارنة سياستين مصدراً مسموحاً وآخر مقيداً. ينبغي للمساعد إتمام الجزء المسموح فقط، أو شرح القيد من دون كشف المادة المقيدة.

أدرج طلبات لإعادة الصياغة أو استخراج قائمة أرقام أو تأكيد وجود معلومة. لا يحتاج المستخدم إلى ذكر اسم المستند كي يكشف الطلب محتواه.

إذا كانت الخدمة تعمل بالعربية والإنجليزية، فأجر اختبارات صلاحيات متكافئة باللغتين وبطلبات واقعية تمزجهما. لا ينبغي أن تعتمد حقوق الوصول على لغة السؤال.

هذه أمثلة لاختبارات مطلوبة، وليست ادعاءً بأن قائمة قصيرة تغطي كل هجوم أو مسار إفصاح. الأنظمة الأعلى حساسية تحتاج إلى تقييم أمني أوسع.

اترك لفريق التشغيل سجلاً قابلاً للتكرار

احتفظ لكل اختبار بالهوية وعضوية المجموعات ونسخة المصدر والوصول المتوقع والاسترجاع الفعلي والمخرج النهائي وإعداد التطبيق. احفظ السجل في مكان ذي صلاحيات مناسبة.

أعد الاختبار بعد تغيير معالجة الهوية أو الفهرسة أو مرشحات الاسترجاع أو التخزين المؤقت أو ذاكرة المحادثة. وقد يستدعي تغيير النموذج إعادة الجزء المعني من التقييم أيضاً، خصوصاً إذا تغيرت معالجة المخرجات.

ينبغي أن يسهل وصف الإخفاق: هذه الهوية تلقت هذا المقطع عبر هذا المسار وتحت هذا الإعداد. هذه معلومة قابلة للعمل أكثر من عبارة عامة تقول إن المساعد اجتاز الاختبار الأمني.

هذا مستوى التحديد الذي أريده في عمل ألتايوس في البيانات والذكاء الاصطناعي. يستطيع الفريق الاعتماد على المساعد بصورة أفضل عندما يفسر ما يعرفه وما يسمح له بعرضه لكل مستخدم.