
تحديد حدود التفويض أولًا
يؤدي اتخاذ قرار واحد بشأن اعتماد الذكاء الاصطناعي في العمليات الأمنية إلى تفويض محدود يقتصر على التلخيص، أو إلى تفويض واسع قد يتسبب في حادث. نناقش مع العملاء أربعة مستويات للتفويض، وهي تقسيم عملي يساعد على الاتفاق بشأن سياسات الموافقة.
| المرحلة | مهام الذكاء الاصطناعي | مهام الفريق البشري |
|---|---|---|
| L1 · المساندة | البحث في السجلات وتلخيص التنبيهات | التصنيف واتخاذ القرار بالكامل |
| L2 · التصنيف | اقتراح تصنيف التنبيهات وأولوياتها | التحقيق واتخاذ القرار |
| L3 · التحقيق | جمع السجلات ذات الصلة وتنظيم الأدلة وصياغة قرار أولي | اعتماد القرار |
| L4 · الاستجابة | تنفيذ الإجراءات ضمن حدود السياسة المعتمدة | تصميم السياسات ومعالجة الاستثناءات والمراجعة اللاحقة |
يمكن لمعظم الفرق البدء بالمستوى L2 ثم الانتقال إلى L3 لكل قاعدة كشف على حدة. ولا يُفعّل المستوى L4 إلا لقاعدة يمكن تحديد نطاق أثر إجراء الاستجابة فيها مسبقًا. قد يناسب L4 عزل محطة عمل واحدة شغّلت ملفًا ذا تجزئة خبيثة معروفة، في حين يظل قفل حساب مسؤول النطاق خاضعًا لموافقة المسؤول.
قد تتضمن التنبيهات نصوصًا يتحكم فيها المهاجم
يمكن للمهاجم التأثير في بعض البيانات التي تقرؤها أنظمة العمليات الأمنية، ومنها عناوين رسائل التصيد ومتونها، وقيم User-Agent ومسارات URL، والنصوص داخل الملفات الضارة، وأسماء الحسابات. تصنّف OWASP Top 10 for LLM Applications 2026 تأثير التعليمات الواردة في محتوى خارجي على سلوك النموذج بوصفه حقنًا غير مباشر للمطالبات (LLM01 Prompt Injection). يوضح المثال التالي نوع البيانات الواجب التعامل معها على هذا الأساس.
{"src_ip": "203.0.113.7", "method": "GET", "path": "/search", "status": 200,
"user_agent": "[untrusted text supplied by the request]"}
عند إعداد المطالبة، ضع حقول السجلات في قسم بيانات منفصل عن التعليمات. وإذا استند تصنيف التنبيه على أنه سليم إلى نص في حقل سجل وحده، فأحله إلى محلل. راجع كذلك عينة من التنبيهات التي أغلقها الذكاء الاصطناعي باعتبارها سليمة، لأن الهجمات الفائتة تظهر عادة بعد وقت أطول من الإنذارات الكاذبة.
الوظائف والصلاحيات والاستقلالية
تحدد OWASP في LLM03:2026 Excessive Agency ثلاثة أسباب للمخاطر، وهي زيادة الوظائف أو الصلاحيات على الحاجة، والسماح بالتصرف المستقل من دون مراجعة بشرية. وعند تطبيق هذه المعايير على وكيل العمليات الأمنية، تصبح أسئلة المراجعة محددة.
- هل مُنح وكيل التحقيق في التنبيهات أداة لتغيير سياسة جدار الحماية؟
- هل يقتصر مفتاح EDR API الذي يستخدمه الوكيل على الاستعلام، أم يسمح بالعزل وحذف الملفات أيضًا؟
- هل توثّق السياسة الحالات التي يُسمح فيها بتنفيذ إجراءات مثل العزل تلقائيًا من دون موافقة؟
تتطلب الوظائف والصلاحيات والاستقلالية ضوابط مستقلة. فإذا كان المفتاح يملك صلاحيات إدارية، فقد يمتد الضرر إلى كامل نطاق صلاحياته عند التلاعب بالوكيل وتعطّل مسار الموافقة. وتتصدر القائمة التي نشرتها OWASP في ديسمبر 2025 للتطبيقات القائمة على الوكلاء مخاطر اختطاف الهدف (ASI01) وإساءة استخدام الأدوات (ASI02) وإساءة استخدام الهوية والصلاحيات (ASI03).
قرارات تظل بيد المسؤولين
في أبريل 2025، حدّث NIST إرشادات الاستجابة للحوادث SP 800-61 إلى المراجعة الثالثة، ووصف الاستجابة بأنها نشاط يمتد عبر وظائف CSF 2.0 الست، Govern وIdentify وProtect وDetect وRespond وRecover. يمكن أتمتة بعض أعمال الكشف والتحليل والاستجابة، أما قرارات الحوكمة مثل تحديد المخاطر المقبولة فتظل بيد المسؤولين. وتشمل هذه القرارات ما يلي.
- إعلان الحادث وتحديد درجته. تتصل بهذه القرارات مهل قانونية، مثل مهلة الإبلاغ عن تسرب البيانات الشخصية.
- الإجراءات التي قد تعطل العمل، مثل عزل الخوادم الحرجة أو قفل الحسابات ذات الامتيازات أو حجب قطاعات الشبكة.
- تعديل سياسة الاستجابة الآلية نفسها.
- مراجعة عينة من التنبيهات التي أغلقها الذكاء الاصطناعي باعتبارها سليمة.
قرارات الذكاء الاصطناعي ضمن السجلات
قد يوثّق المحلل قراره في التذكرة بينما يبقى قرار الذكاء الاصطناعي في سجل المحادثة، فيصعب لاحقًا تفسير سبب إغلاق التنبيه. عند معالجة كل تنبيه، دوّن على الأقل العناصر التالية في موضع التذكرة نفسه.
- موضع البيانات المقروءة ونطاقها الزمني، مع تحديد السجلات التي راجعها الوكيل والسجلات الخارجة عن المراجعة.
- الأدوات المستدعاة ووسائط الاستدعاء والنتائج الواردة.
- نتيجة التصنيف وتعليلها ومعرّفات تقنيات ATT&CK المرتبطة بها.
- إصدارات النموذج والمطالبة وسياسة الاستجابة المستخدمة آنذاك.
البند الثاني مهم خصوصًا. إذا أدى حقن المطالبات إلى استدعاء أداة غير متوقعة، فقد يظهر الأثر في سجل استدعاءات الأدوات قبل أن يظهر في نتيجة التصنيف. ولتفاصيل الحقول المطلوبة في سجل القرار، راجعوا مقال عن التدقيق، تجدون أمثلة مفصلة.
كيف تتغيّر طبيعة العمل؟
تتغيّر طبيعة عمل المحلل. تقل مهام التصنيف المتكرر، ويزداد العمل على تحسين قواعد الكشف وسياسات الاستجابة ومراجعة قرارات الذكاء الاصطناعي. وتجدون خطوات التشغيل التجريبي وأمثلة سياسات الموافقة في دليل اعتماد الوكلاء في مركز العمليات الأمنية، تجدون تفاصيل إضافية.
المراجع
- LLM01:2026 Prompt Injection, OWASP Top 10 for LLM Applications 2026
- LLM03:2026 Excessive Agency, OWASP Top 10 for LLM Applications 2026
- OWASP Top 10 for Agentic Applications, OWASP GenAI Security Project, 2025.12
- SP 800-61 Rev. 3, Incident Response Recommendations and Considerations for Cybersecurity Risk Management, NIST, 2025.4


