جولة في المنتج خلال 3 دقائق بلاغ حادث عاجل بالبريد
العدد 9 لعام 2026تقرير التهديدات

القرارات التي يتولاها البشر في المراقبة الأمنية بالذكاء الاصطناعي

نقسم نطاق الأتمتة إلى أربع مراحل، من تصنيف التنبيهات إلى الاستجابة.
نوضح معايير إدارة المدخلات الخارجية والحد من صلاحيات الأدوات، وكيفية تحديد الإجراءات التي تستلزم موافقة المسؤول.

القرارات التي يتولاها البشر في المراقبة الأمنية بالذكاء الاصطناعي

تحديد حدود التفويض أولًا

يؤدي اتخاذ قرار واحد بشأن اعتماد الذكاء الاصطناعي في العمليات الأمنية إلى تفويض محدود يقتصر على التلخيص، أو إلى تفويض واسع قد يتسبب في حادث. نناقش مع العملاء أربعة مستويات للتفويض، وهي تقسيم عملي يساعد على الاتفاق بشأن سياسات الموافقة.

المرحلةمهام الذكاء الاصطناعيمهام الفريق البشري
L1 · المساندةالبحث في السجلات وتلخيص التنبيهاتالتصنيف واتخاذ القرار بالكامل
L2 · التصنيفاقتراح تصنيف التنبيهات وأولوياتهاالتحقيق واتخاذ القرار
L3 · التحقيقجمع السجلات ذات الصلة وتنظيم الأدلة وصياغة قرار أولياعتماد القرار
L4 · الاستجابةتنفيذ الإجراءات ضمن حدود السياسة المعتمدةتصميم السياسات ومعالجة الاستثناءات والمراجعة اللاحقة

يمكن لمعظم الفرق البدء بالمستوى L2 ثم الانتقال إلى L3 لكل قاعدة كشف على حدة. ولا يُفعّل المستوى L4 إلا لقاعدة يمكن تحديد نطاق أثر إجراء الاستجابة فيها مسبقًا. قد يناسب L4 عزل محطة عمل واحدة شغّلت ملفًا ذا تجزئة خبيثة معروفة، في حين يظل قفل حساب مسؤول النطاق خاضعًا لموافقة المسؤول.

قد تتضمن التنبيهات نصوصًا يتحكم فيها المهاجم

يمكن للمهاجم التأثير في بعض البيانات التي تقرؤها أنظمة العمليات الأمنية، ومنها عناوين رسائل التصيد ومتونها، وقيم User-Agent ومسارات URL، والنصوص داخل الملفات الضارة، وأسماء الحسابات. تصنّف OWASP Top 10 for LLM Applications 2026 تأثير التعليمات الواردة في محتوى خارجي على سلوك النموذج بوصفه حقنًا غير مباشر للمطالبات (LLM01 Prompt Injection). يوضح المثال التالي نوع البيانات الواجب التعامل معها على هذا الأساس.

{"src_ip": "203.0.113.7", "method": "GET", "path": "/search", "status": 200,
 "user_agent": "[untrusted text supplied by the request]"}

عند إعداد المطالبة، ضع حقول السجلات في قسم بيانات منفصل عن التعليمات. وإذا استند تصنيف التنبيه على أنه سليم إلى نص في حقل سجل وحده، فأحله إلى محلل. راجع كذلك عينة من التنبيهات التي أغلقها الذكاء الاصطناعي باعتبارها سليمة، لأن الهجمات الفائتة تظهر عادة بعد وقت أطول من الإنذارات الكاذبة.

الوظائف والصلاحيات والاستقلالية

تحدد OWASP في LLM03:2026 Excessive Agency ثلاثة أسباب للمخاطر، وهي زيادة الوظائف أو الصلاحيات على الحاجة، والسماح بالتصرف المستقل من دون مراجعة بشرية. وعند تطبيق هذه المعايير على وكيل العمليات الأمنية، تصبح أسئلة المراجعة محددة.

  • هل مُنح وكيل التحقيق في التنبيهات أداة لتغيير سياسة جدار الحماية؟
  • هل يقتصر مفتاح EDR API الذي يستخدمه الوكيل على الاستعلام، أم يسمح بالعزل وحذف الملفات أيضًا؟
  • هل توثّق السياسة الحالات التي يُسمح فيها بتنفيذ إجراءات مثل العزل تلقائيًا من دون موافقة؟

تتطلب الوظائف والصلاحيات والاستقلالية ضوابط مستقلة. فإذا كان المفتاح يملك صلاحيات إدارية، فقد يمتد الضرر إلى كامل نطاق صلاحياته عند التلاعب بالوكيل وتعطّل مسار الموافقة. وتتصدر القائمة التي نشرتها OWASP في ديسمبر 2025 للتطبيقات القائمة على الوكلاء مخاطر اختطاف الهدف (ASI01) وإساءة استخدام الأدوات (ASI02) وإساءة استخدام الهوية والصلاحيات (ASI03).

قرارات تظل بيد المسؤولين

في أبريل 2025، حدّث NIST إرشادات الاستجابة للحوادث SP 800-61 إلى المراجعة الثالثة، ووصف الاستجابة بأنها نشاط يمتد عبر وظائف CSF 2.0 الست، Govern وIdentify وProtect وDetect وRespond وRecover. يمكن أتمتة بعض أعمال الكشف والتحليل والاستجابة، أما قرارات الحوكمة مثل تحديد المخاطر المقبولة فتظل بيد المسؤولين. وتشمل هذه القرارات ما يلي.

  1. إعلان الحادث وتحديد درجته. تتصل بهذه القرارات مهل قانونية، مثل مهلة الإبلاغ عن تسرب البيانات الشخصية.
  2. الإجراءات التي قد تعطل العمل، مثل عزل الخوادم الحرجة أو قفل الحسابات ذات الامتيازات أو حجب قطاعات الشبكة.
  3. تعديل سياسة الاستجابة الآلية نفسها.
  4. مراجعة عينة من التنبيهات التي أغلقها الذكاء الاصطناعي باعتبارها سليمة.

قرارات الذكاء الاصطناعي ضمن السجلات

قد يوثّق المحلل قراره في التذكرة بينما يبقى قرار الذكاء الاصطناعي في سجل المحادثة، فيصعب لاحقًا تفسير سبب إغلاق التنبيه. عند معالجة كل تنبيه، دوّن على الأقل العناصر التالية في موضع التذكرة نفسه.

  • موضع البيانات المقروءة ونطاقها الزمني، مع تحديد السجلات التي راجعها الوكيل والسجلات الخارجة عن المراجعة.
  • الأدوات المستدعاة ووسائط الاستدعاء والنتائج الواردة.
  • نتيجة التصنيف وتعليلها ومعرّفات تقنيات ATT&CK المرتبطة بها.
  • إصدارات النموذج والمطالبة وسياسة الاستجابة المستخدمة آنذاك.

البند الثاني مهم خصوصًا. إذا أدى حقن المطالبات إلى استدعاء أداة غير متوقعة، فقد يظهر الأثر في سجل استدعاءات الأدوات قبل أن يظهر في نتيجة التصنيف. ولتفاصيل الحقول المطلوبة في سجل القرار، راجعوا مقال عن التدقيق، تجدون أمثلة مفصلة.

كيف تتغيّر طبيعة العمل؟

تتغيّر طبيعة عمل المحلل. تقل مهام التصنيف المتكرر، ويزداد العمل على تحسين قواعد الكشف وسياسات الاستجابة ومراجعة قرارات الذكاء الاصطناعي. وتجدون خطوات التشغيل التجريبي وأمثلة سياسات الموافقة في دليل اعتماد الوكلاء في مركز العمليات الأمنية، تجدون تفاصيل إضافية.

المراجع

تحدّث إلى أحد خبراء
الأمن في Genox.

تواصل معنا