لا يكفي ربط نموذج بمجلد مستندات ثم طلب إرفاق المصادر. يجب أن يعرف النظام أي وثيقة معتمدة، وأي مستخدم يحق له الوصول إليها، ومتى تغيّرت أو سُحبت، وماذا يفعل عندما لا تكفي الأدلة. مساعد المعرفة المقبول يجيب داخل حدود المصادر والصلاحيات، ويمتنع أو يصعّد عندما تتعارض الوثائق أو يغيب أساس واضح للإجابة.
هذه المقالة تفترض أن المهمة ومصادرها الأولية اختيرت. تركيزها على ضوابط التنفيذ والقبول لمساعد يسترجع معلومات، لا على تقييم جدوى مشروع ذكاء اصطناعي عام. وجود إحالة إلى ملف لا يثبت صحة الجواب، ولا يعطي المساعد سلطة اعتماد سياسة أو استثناء أو قرار يؤثر في موظف أو عميل.
حوّل المجلد إلى سجل مصادر معتمد
لكل مجموعة مصادر، حدد المالك والغرض والجمهور والحالة وتاريخ السريان وطريقة التحديث. ميّز بين سياسة معتمدة ومسودة ومراسلة تفسيرية ونسخة ملغاة. إذا كان المصدر قديمًا لكنه لا يزال محفوظًا لأغراض أرشيفية، فهذا لا يعني أنه صالح للإجابة عن سؤال حالي.
| حقل المصدر | القرار الذي يدعمه |
|---|---|
| المالك وحالة الاعتماد | من يحسم التعارض ومن يسمح باستخدام الوثيقة؟ |
| النطاق والجمهور | لأي فريق أو فرع أو حالة تنطبق المعلومة؟ |
| تاريخ السريان والإصدار | هل تعكس الإجابة السياسة المطلوبة زمنيًا؟ |
| صلاحيات الوصول | من يجوز له استرجاع المحتوى والاستشهاد به؟ |
| التحديث والحذف | كيف تصل التغييرات إلى الفهرس والمخرجات المخزنة؟ |
إذا تعذر إثبات حق استخدام المصادر أو ربط صلاحياتها، فهذا عائق يعود إلى تقييم جاهزية الذكاء الاصطناعي. لا تعالجه بتحميل كل شيء إلى أداة جديدة على أمل ترتيب الوصول لاحقًا.
الصلاحية تُفحص قبل وصول المحتوى إلى النموذج
لا تسترجع مستندًا غير مسموح ثم تطلب من النموذج ألا يكشفه. يجب أن يمنع تصميم الوصول دخوله أصلًا في السياق الذي يعالجه النموذج لخدمة مستخدم غير مخوّل. ويشمل ذلك المقتطفات والعناوين والإحالات والذاكرة المؤقتة، لا النص الكامل فقط. كما أن قدرة حساب خدمة على قراءة مجلد لا تمنح كل مستخدم للمساعد الحقوق نفسها.
توصي OWASP برفض الوصول افتراضيًا والتحقق من الصلاحية في كل طلب. نطبق هذا المبدأ على مسار الاسترجاع، دون افتراض أن تسجيل الدخول وحده يكفي لتفويض الوثائق. إرشادات OWASP للتفويض.
يمكن لـتطوير وربط واجهات برمجة التطبيقات تحديد طريقة انتقال هوية المستخدم وقواعد الوصول ونتائج الرفض بين الأنظمة. يجب اختبار الفشل الآمن إذا تعذر التحقق من الإذن، لا الرجوع تلقائيًا إلى حساب أوسع صلاحية كي تستمر الإجابات.
مثال افتراضي: سياسة سفر عامة واستثناء لفريق محدد
لنفترض مساعدًا داخليًا يجيب عن إجراءات طلب السفر. توجد سياسة عامة معتمدة، وملحق محصور بفريق مشروع، ومسودة سياسة جديدة لم تدخل حيز التنفيذ. المثال افتراضي لتوضيح ضبط المعرفة، وليس تفسيرًا لنظام عمل أو سياسة فعلية.
يسأل موظف من خارج فريق المشروع عن المستندات المطلوبة. يجب أن يعتمد الجواب على السياسة العامة المناسبة فقط؛ لا يجوز أن يكشف عنوان الملحق المقيد أو يوحي بوجود استثناء سري. يسأل عضو مخوّل في الفريق السؤال نفسه، فتُستخدم المصادر المسموحة له مع بيان نطاقها. تظل المسودة مستبعدة من الإجابات المعتمدة حتى يغيّر مالك المحتوى حالتها.
في اختبار لاحق تُسحب صلاحية موظف تجريبي بعد أن فتح جوابًا سابقًا. يجب التحقق من عدم إعادة عرض المحتوى المقيد عبر ذاكرة محادثة أو نتيجة مخزنة. وفي حالة أخرى تتعارض نسختان تبدوان معتمدتين؛ يمتنع المساعد عن حسم الاستحقاق ويشير إلى أن صاحب السياسة يحتاج مراجعة التعارض. لا يختار النسخة الأقرب لغويًا إلى السؤال وكأن التشابه يمنحها سلطة.
ماذا تعني إحالة مفيدة؟
تحتاج الإجابة إلى مصدر يستطيع المستخدم المخوّل فتحه ومعرفة إصداره وموضع المعلومة فيه. اختبر أن المقتطف يدعم الادعاء فعلًا، وأن الرابط لا يأخذ المستخدم إلى ملف آخر أو نسخة تغيرت دون بيان. لا تجعل ذكر اسم ملف زينة تمنح الجواب مصداقية شكلية.
المصدر نفسه قد يحتوي تعليمات أو نصوصًا غير موثوقة. هذه مواد للإجابة بحسب الغرض، وليست تعليمات لتغيير صلاحيات النظام أو تشغيل أدوات أو إرسال بيانات. يجب أن يبقى المساعد للقراءة والتفسير داخل النطاق، وأن يعود إلى شخص مخوّل في القرارات والاستثناءات بدل اتخاذها من تلقاء نفسه.
عرّف الامتناع والتحديث كحالتين أساسيتين
اكتب سلوكًا واضحًا عند غياب مصدر مناسب، أو تعارض الوثائق، أو تعذر فتحها، أو قدمها، أو خروج السؤال عن النطاق. «لا أملك دليلًا كافيًا» قد تكون الإجابة الصحيحة، مع توضيح الخطوة التالية المسموح بها. لا تجعل المساعد يملأ الفجوة من معرفة عامة إذا كان السؤال عن سياسة الشركة المحددة.
حدد مدة انتقال تحديث المصدر إلى النظام بالاتفاق مع مالكه، وما يحدث للملفات المحذوفة والمقتطفات المخزنة. إذا كان الاتصال بالمصدر متعطلًا، بيّن هل تُعرض معلومات محفوظة مع تحذير واضح أم يتوقف هذا النوع من الإجابات. لا تقدم حداثة دائمة أو منعًا كاملًا للهلوسة كضمان تقني.
اختبارات القبول التي تستحق العرض
تدخل هذه الضوابط ضمن نطاق تطوير حلول الذكاء الاصطناعي والتعلّم الآلي، وتحتاج تحققًا محددًا عبر اختبار وضمان جودة البرمجيات. اطلب عرضًا بحسابات ومصادر اصطناعية أو مصرح بها، لا اختبار تسرب بيانات حقيقية أمام جمهور واسع.
- سؤال مسموح يحصل على جواب مدعوم بنسخة معتمدة.
- السؤال نفسه من هوية غير مخوّلة لا يكشف محتوى أو عنوانًا مقيدًا.
- سحب الإذن ينعكس على الاسترجاع والذاكرة المؤقتة وفق الحد المعتمد.
- مصدر متعارض أو غائب يؤدي إلى امتناع وتصعيد واضحين.
- تحديث وحذف تجريبيان ينعكسان دون بقاء إجابة قديمة مضللة.
- نص داخل وثيقة لا يوسع الصلاحيات أو يطلق إجراءً خارجيًا.
أسئلة شائعة
هل إضافة المصادر تمنع الإجابات الخاطئة؟
لا تضمن ذلك. يجب اختبار دعم كل ادعاء وحدود الاسترجاع وسلوك الامتناع، مع مراجعة مجال مناسبة.
هل يمكن استخدام حساب خدمة واحد؟
قد يكون جزءًا من التكامل، لكنه لا يحل تفويض المستخدم النهائي. يحتاج التصميم تطبيق حدود كل مستخدم قبل إتاحة المحتوى.
هل نضم الأرشيف كله من البداية؟
ابدأ بمجموعة محدودة لها مالك وحالة واضحة. إضافة أرشيف متعارض قد تزيد الالتباس وتحتاج قواعد زمنية واعتمادًا قبل الاستخدام.
ما المطلوب لبحث النطاق؟
قائمة مصادر منقحة، ومالكوها، ومصفوفة وصول، وأمثلة أسئلة يجب الإجابة عنها وأخرى يجب رفضها. لا ترسل وثائق حساسة قبل الاتفاق على الغرض والبيئة والإذن.
مرجع
OWASP Authorization Cheat Sheet، تمت مراجعته في 26 أكتوبر 2026. المثال وتصميم اختبارات القبول إرشادات أصلية وليست ضمانًا ضد كل إخفاق.
