أمان وكلاء الذكاء الاصطناعي يقوم على قاعدة واحدة: امنح الوكيل أصغر مجموعة صلاحيات يحتاجها لأداء مهمته المحددة، وليس مفتاحاً إدارياً شاملاً، وتعامل مع كل صلاحية جديدة كشيء يجب أن يكسبه الوكيل لا أن يحصل عليه تلقائياً. هذا المبدأ الواحد — المعروف بـ"أقل الصلاحيات" (Least Privilege) — هو ما يفصل بين وكيل يرسل رسائل تأكيد أو يتحقق من حالة طلب بأمان، ووكيل قد يحذف قاعدة بيانات كاملة أو يحوّل مبلغاً مالياً إلى حساب خاطئ بسبب خطأ في البرومبت أو ثغرة برمجية. يشرح هذا المقال معنى أقل الصلاحيات عملياً، والتقنيات الملموسة التي تفرضه، ونموذجاً ذهنياً بسيطاً لتحديد مقدار الصلاحيات التي يستحقها الوكيل في كل مرحلة.
ماذا يعني "أقل الصلاحيات" فعلياً بالنسبة لوكيل الذكاء الاصطناعي؟
يعني أن تكون صلاحيات الوكيل محصورة بدقة في حدود المهمة التي ينفذها، لا في حدود ما قد يكون مفيداً لاحقاً. وكيل دعم يتحقق من حالة الطلبات يحتاج فقط إلى صلاحية قراءة جدول الطلبات، ولا شيء غير ذلك — لا يحتاج صلاحية تعديل بيانات العملاء، ولا الوصول إلى نظام المدفوعات، ولا القدرة على تنفيذ استعلامات حرة على قاعدة البيانات. هذا هو نفس المعيار الذي تطبّقه على موظف جديد: موظف دعم عملاء يحصل على حساب دخول لنظام الدعم، لا كلمة المرور الرئيسية لكل أنظمة الشركة. يجب أن يُقاس وكيل الذكاء الاصطناعي بهذا المعيار على الأقل، لأنه على عكس الإنسان يمكنه تنفيذ آلاف الإجراءات في الدقيقة الواحدة، وقد لا "يلاحظ" أن شيئاً ما يبدو خاطئاً.
هل يجب أن يحصل وكيل الذكاء الاصطناعي على صلاحية قراءة فقط أم قراءة وكتابة؟
اجعل القراءة فقط هي الخيار الافتراضي، وامنح صلاحية الكتابة فقط حيث تتطلبها المهمة فعلياً. معظم المهام التي يُكلَّف بها وكلاء الذكاء الاصطناعي — الإجابة عن أسئلة، تلخيص سجلات، التحقق من حالة، صياغة رد — تحتاج فقط أن يقرأ الوكيل البيانات، لا أن يعدّلها. صلاحية القراءة فقط تعني أنه حتى لو تعرّض الوكيل لتلاعب عبر مدخل خبيث أو ارتكب خطأ بسيطاً، فلن يتمكن من تغيير أو إتلاف أي شيء — أسوأ سيناريو هو إجابة خاطئة، لا سجل تالف. أما صلاحية الكتابة فيجب إضافتها بشكل ضيق، إجراءً محدداً واحداً في كل مرة، وفقط بعد أن يثبت أن المهمة لا يمكن إنجازها بدونها.
كيف تحدد بدقة الإجراءات التي يمكن لوكيل الذكاء الاصطناعي تنفيذها؟
امنح الوكيل قائمة محددة من الإجراءات المسموحة (Allowlist) — دوال واضحة ومحدودة النطاق مثل "البحث عن طلب برقمه" أو "إرسال بريد تأكيد بقالب جاهز" — بدلاً من وصول مفتوح إلى قاعدة بيانات أو واجهة برمجية كاملة. القائمة المسموحة هي الفرق بين إعطاء شخص مفتاحاً واحداً لباب واحد محدد، وإعطائه مفتاحاً رئيسياً للمبنى بأكمله. مع قائمة كهذه، لا يستطيع الوكيل تنفيذ إجراء غير مدرج فيها مهما طلب المستخدم أو مهما صيغ البرومبت. هذا أيضاً ما يجعل سلوك الوكيل قابلاً للتنبؤ بدرجة تسمح باختباره ومراقبته وفهمه قبل تشغيله فعلياً.
كيف تمنع وكيل الذكاء الاصطناعي من تنفيذ إجراء لا يمكن التراجع عنه؟
ضع خطوة موافقة بشرية أمام أي إجراء يصعب التراجع عنه — تحويل مبلغ مالي، حذف بيانات، إلغاء عقد، إرسال بريد لقائمة عملاء كاملة. يمكن للوكيل أن يقوم بتحضير الإجراء: يصيغ الاسترجاع المالي، أو يعلّم السجل للحذف، أو يكتب الرسالة، لكن شخصاً يراجع ويؤكد قبل أن يُنفَّذ الإجراء فعلياً. هذه الخطوة الواحدة هي ما يحوّل خطأً مكلفاً إلى مسودة تم اكتشافها في الوقت المناسب. ومع بناء الثقة وإثبات سجل أداء الوكيل في نوع معيّن من الإجراءات على مدى أسابيع أو أشهر، قد تختار بعض الشركات تخفيف هذه الخطوة تدريجياً للإجراءات منخفضة المخاطر وعالية التكرار — لكن يجب ألا تكون نقطة البداية الافتراضية لأي إجراء لا يمكن التراجع عنه.
كيف تعرف ما الذي فعله وكيل الذكاء الاصطناعي فعلياً؟
سجّل كل إجراء يقوم به الوكيل — ماذا فعل، ومتى، وبأي أداة، وبأي مدخلات، وما كانت النتيجة — بحيث يكون لديك سجل تدقيق كامل بعد وقوع الحدث. بدون تسجيل، تصبح إجراءات الوكيل غير مرئية فعلياً؛ فإن حدث خطأ ما، لا توجد طريقة لإعادة بناء ما جرى أو إثبات ما لم يحدث. مع التسجيل، يمكن تتبّع كل إجراء إلى استدعاء محدد، ما يتيح اكتشاف المشكلات مبكراً، ومعالجتها بسرعة، وإظهار بالضبط ما فعله الوكيل إن سأل عميل أو جهة تنظيمية أو مدقق حسابات.
ما هو أبسط نموذج ذهني لفهم صلاحيات وكيل الذكاء الاصطناعي؟
تعامل مع وكيل الذكاء الاصطناعي تماماً كما تتعامل مع موظف جديد في يومه الأول: ابدأ بصلاحيات محدودة، راقب أداءه، ووسّع صلاحياته تدريجياً كلما أثبت جدارته — ولا تمنحه وصولاً واسعاً منذ البداية على افتراض أنه سيحتاجه لاحقاً.
اختبار الموظف الجديد
قبل منح وكيل الذكاء الاصطناعي أي صلاحية، اسأل نفسك: هل كنت سأمنح هذا المستوى بالذات من الوصول لموظف جديد تماماً، في يومه الأول، بلا أي سجل أداء بعد؟ إن كانت الإجابة الصادقة لا، فلا ينبغي أن يحصل الوكيل عليه أيضاً — على الأقل ليس دون نفس خطوة الموافقة أو الإشراف الذي كنت ستضعه حول ذلك الموظف الجديد.
أسئلة شائعة
ماذا يعني مبدأ أقل الصلاحيات بالنسبة لوكيل الذكاء الاصطناعي؟
يعني أن يحصل الوكيل فقط على أصغر قدر من الصلاحيات اللازم لمهمته المحددة — مثلاً صلاحية قراءة جدول واحد فقط بدل وصول كامل لقاعدة البيانات — بدلاً من صلاحيات واسعة ودائمة قد يستخدمها يوماً ما.
هل يجب أن يملك وكيل الذكاء الاصطناعي صلاحية كتابة مباشرة على قاعدة البيانات؟
بشكل عام لا. النمط الأكثر أماناً هو منح الوكيل مجموعة صغيرة من الإجراءات المحددة والمسماة التي يمكنه استدعاؤها (مثل "تحديث حالة الطلب") بدلاً من وصول كتابة مفتوح على قاعدة البيانات نفسها، بحيث يصبح من المستحيل بنيوياً أن ينفذ استعلاماً غير مقصود أو مدمّراً.
كيف تمنع وكيل الذكاء الاصطناعي من ارتكاب خطأ لا يمكن التراجع عنه؟
اشترط موافقة بشرية قبل تنفيذ أي إجراء لا يمكن التراجع عنه — تحويل مبلغ مالي، حذف سجلات، إلغاء شيء ما. يمكن للوكيل تحضير الإجراء واقتراحه، لكن شخصاً يؤكده قبل أن يحدث فعلياً.
لماذا يحتاج وكيل الذكاء الاصطناعي إلى سجل تدقيق؟
لأنه بدون سجل تدقيق، لا توجد طريقة لمعرفة الإجراءات التي نفذها ومتى ولماذا بعد وقوع الحدث. سجل التدقيق يوثّق كل إجراء واستدعاء أداة ونتيجة، ما يتيح اكتشاف المشكلات مبكراً ومعالجتها وإثبات ما حدث بالضبط إن طُرح سؤال حوله.