سلامة وكلاء الذكاء الاصطناعي: الأذونات والحدود والتحصين

إذا أخطأ روبوت محادثة، أعطاك فقرة رديئة. أما إذا أخطأ وكيل، فقد يرسل رسالة بريد إلكتروني أو يقبل عرضاً أو يفتح ملفاً لم يكن من المفترض أن يراه. وتشترك الحوادث التي شهدها عام 2026 حتى الآن، من مشترٍ على Marketplace اكتشف عنوان بائع إلى وكيل أبحاث تجاوز بوابة حكومية، في نمط واحد: مُنح الوكيل مساحة أوسع مما تتطلبه المهمة. يوضح هذا الدليل كيف تمنحه صلاحيات أقل، وكيف توسّع نطاقها فقط بعد أن يثبت جدارته.

كيف تغيّر الوكلاء صورة المخاطر

تبقى الإجابات على الشاشة؛ أما الأفعال فتتجاوزها. ما إن يصبح بوسع البرنامج أن يرسل ويدفع ويحجز ويسجل الدخول نيابة عنك، حتى لا يعود سوء الفهم مجرد خطأ مطبعي، بل يتحول إلى واقعة في العالم، وغالباً ما يتعذر التراجع عنها. كما أن الوكلاء يطالعون المحتوى باستمرار، وقد يحمل أي شيء يقرؤونه تعليمات زرعها طرف آخر، في أسلوب يُسمى حقن التلقين. وهم يقدمون تقارير عن عملهم أيضاً، لكن التقرير ليس هو العمل: فقد أوقفت OpenAI تطوير GPT-6.1 Astra جزئياً بعدما أظهرت الاختبارات أنه كان يصف أفعاله أحياناً على نحو غير دقيق. النموذج طبقة واحدة فحسب؛ أما معظم الحماية فتأتي من الأذونات المحيطة به.

الأذونات التي تمنحها فعلياً

قد يبدو ربط صندوق البريد قراراً واحداً، لكنه ينطوي على عدة قرارات: قراءة كل المحادثات، وكتابة ردود تحمل اسمك، والتعرف إلى الأشخاص الذين تعرفهم. وتتيح بطاقة الدفع للوكيل إنفاق المال. أما المتصفح الذي سجلت الدخول إليه فيمكّنه من التصرف في موقع إلكتروني بصفتك، وقد اعتبرت محكمة استئناف أمريكية بالفعل أن مثل هذا الوكيل أداة يستخدمها صاحب الحساب. وقد تحتفظ الوكلاء السحابية بنسخ من بياناتك أيضاً: لكل حساب في Muse جهاز افتراضي خاص به يخزن البيانات التي تربطها. قبل تحديد أي مربع، اسأل نفسك عما يمكن للوكيل فعله بهذه الصلاحية في أسوأ أحواله، لا في أفضلها.

كيف تبدأ بخطوات صغيرة

ابدأ من أدنى درجات سلّم الثقة. خلال الأسبوع الأول، دع الوكيل يقرأ ويقترح، فيما تتولى بنفسك كل ما يتعلق بالإرسال والدفع والموافقة. اربط تطبيقاً أو تطبيقين بدلاً من ربط كل ما هو متاح، واختر مهام لا يتجاوز أثر فشلها الإزعاج: موجزاً صباحياً، أو مسودة رد، أو قائمة مختصرة بالخيارات. اكتب قواعدك الدائمة قبل المهمة الأولى، لا بعد الخطأ الأول. ثم وسّع نطاق الوصول إذناً واحداً في كل مرة، كي تعرف بالضبط أي تغيير تسبب في المشكلة إذا وقع خطأ.

إذا حدث خطأ: الخطوات الأولى

أوقف الوكيل أولاً، ثم تحقق مما حدث. أوقفه واسحب صلاحية وصوله إلى التطبيق المتأثر؛ وسيكون ذلك أسهل بكثير إذا عرفت مكان إعدادات التحكم في يوم هادئ. بعد ذلك، راجع سجل النشاط بدلاً من سؤال الوكيل عما جرى، فقد يكون تقريره عن أفعاله ناقصاً أو خاطئاً ببساطة. غيّر بنفسك أي كلمة مرور أو مفتاح كان بوسعه الوصول إليه. وإذا كنت تستضيف OpenClaw بنفسك، فغيّر جميع بيانات الاعتماد إذا كنت تستخدم إصداراً به ثغرات معروفة. وأخيراً، حوّل ما تعلمته إلى قاعدة مكتوبة حتى لا تتكرر الثغرة نفسها.