جولة في المنتج خلال 3 دقائق بلاغ حادث عاجل بالبريد
الذكاء الاصطناعي والأمن

المراقبة الأمنية بالذكاء الاصطناعي و
أمن الذكاء الاصطناعي داخل المؤسسة

نستخدم الذكاء الاصطناعي لتصنيف التنبيهات والتحقيق الأولي.
نفحص الصلاحيات ومسارات معالجة البيانات لدى روبوتات المحادثة والوكلاء المستخدمين في المؤسسة.

الذكاء الاصطناعي في المراقبة الأمنية

يتولى الذكاء الاصطناعي التحقيق
يعتمد المحلل القرار

مستوى الأتمتةمهام الذكاء الاصطناعيمهام الفريق البشريإعدادات Genox الافتراضية
L1 · المساندةالتلخيص والبحثجميع القرارات-
L2 · التصنيفتصنيف التنبيهات وترتيب أولوياتهاالتحقيق واتخاذ القرار-
L3 · التحقيقالتحقيق وتوثيق أساس القراراعتماد القرار✓ أساسي
L4 · الاستجابةالاستجابة الآلية ضمن النطاق المتفق عليهتصميم السياسات ومعالجة الاستثناءاتالاختيار بحسب مستوى الخطورة والأصل

هذا موقف افتراضي للتوضيح. الأوقات والأرقام الظاهرة على الشاشة أمثلة.

تقرير تحليل الذكاء الاصطناعيالنطاق -جارٍ التحليل

صلاحيات مساعد الذكاء الاصطناعي وأسباب الحظر

اختر سيناريو لترى الطلبات التي يسمح بها مساعد العمل الافتراضي والتعليمات التي يتجاهلها أو يحظرها.

السيناريوهات المتاحة للمراجعة

تقتصر صلاحيات المساعد الافتراضي على قراءة مركز المساعدة العام. ويُراجَع الوصول إلى المعلومات وصلاحيات تشغيل الأدوات كلٌّ على حدة.

تعرض هذه المحاكاة سيناريوهات وقرارات معدّة مسبقًا، وتعمل بمعزل عن نماذج الذكاء الاصطناعي والأدوات الخارجية.

مثال على قرار أمنيمحاكاة

السيناريو
يطلب المستخدم التحقق من ساعات الدعم في مركز المساعدة العام.

القرار
سماح

الأدلة
الاستعلام من مركز المساعدة العام إجراء للقراءة فقط ومدرج ضمن قائمة السماح.

خريطة تهديدات الذكاء الاصطناعي

التهديدات التي تستهدف أنظمة الذكاء الاصطناعي و
دور Genox

التهديدالوصفمستوى الخطورةاستجابة Genox
حقن التعليماتالتلاعب بالسلوك عبر تعليمات مباشرة أو غير مباشرةمرتفعتقييم الفريق الأحمر والفصل البنيوي والكشف السلوكي
صلاحيات مفرطة للوكلاءصلاحيات للأدوات والبيانات تتجاوز الحاجةمرتفعخريطة الصلاحيات والفروق قياسًا بالحد الأدنى اللازم
سلسلة توريد MCPخوادم MCP منتحلة أو جرى العبث بهامرتفعالتحقق من المصدر والتوقيع والتقييم في بيئة معزولة
انكشاف معلومات حساسةتسرّب البيانات عبر الردود أو البحث باستخدام RAGمتوسطفحص صلاحيات RAG ومراجعة المخرجات
العبث بالنماذج وتسميمهاملفات نماذج خبيثة وتلويث بيانات التدريبمتوسطفحص النماذج وقائمة مكونات الذكاء الاصطناعي (AI-BOM)
استخدام الذكاء الاصطناعي خارج القنوات المعتمدةاستخدام الذكاء الاصطناعي دون إذنمنخفضجرد أنظمة الذكاء الاصطناعي وحوكمتها

تحدّث إلى أحد خبراء
الأمن في Genox.

تواصل معنا