
نجري الأبحاث الهجومية واختبارات الفريق الأحمر للذكاء الاصطناعي
في بيئة معزولة
نجري الأبحاث الهجومية واختبارات الفريق الأحمر للذكاء الاصطناعي في بيئة معزولة.
يُحظر الإرسال الخارجي افتراضيًا، ويتطلب إخراج المخرجات موافقة المسؤول.
استشارة حول تطبيق الحلنحدد نطاق التطبيق وبيئة النشر خلال الاستشارة. دليل تطبيق الحل
مخرجات البحث
تبقى داخل البيئة ما لم يُوافق على إخراجها
يُخصّص لكل باحث نطاق أسماء منفصل في Kubernetes، وتحظر السياسة حركة المرور الصادرة افتراضيًا.
يتطلب إخراج التقارير أو الشفرة موافقة المسؤول وتوقيعًا إلكترونيًا.
- تحظر السياسة الإرسال الخارجي افتراضيًا
- تسجيل بصمة كل ملف أُخرج وهوية من وافق على إخراجه
- عزل نطاق الأسماء لكل باحث
lab-ns/target-01قيد التنفيذ
السياسة · egress-deny10:41
بانتظار موافقة المسؤول10:55
نختبر أمن نماذج الذكاء الاصطناعي ووكلائه
باختبارات هجومية مباشرة
نستخدم أدوات مفتوحة مثل Garak وPyRIT وسيناريوهات داخلية لتقييم مقاومة حقن التعليمات وتجاوز ضوابط النموذج والتلاعب بالأدوات بصورة متكررة. ويوثّق الباحثون بصورة منفصلة حالات الاختبار باللغة الكورية التي يصعب رصدها بمجموعات بيانات إنجليزية. ونوثّق إجراءات إعادة الاختبار للنتائج المثبتة ضمن النطاق المصرّح به، مع مسودات لقواعد الحماية.
- مجموعة لاختبار مقاومة الحقن المباشر وغير المباشر والتلاعب بالأدوات
- مجموعة اختبارات هجومية بصيغ كورية متعددة
- تحويل نتائج الاختبارات الناجحة إلى مسودات لقواعد الحماية
مطابقة مصدر المدخلات مع السياسةالتسجيل
التحقق مما إذا كانت الموافقة مطلوبةمراجعة
مقارنة نطاق السماح بسجلات التنفيذالتسجيل
نسجّل كل إجراء
ومَن نفّذه ومتى
يُوثّق تنفيذ الأوامر والوصول إلى الأنظمة المستهدفة وطلبات إخراج الملفات في سجل تدقيق موقّع.
يُرجع إلى هذا السجل لاحقًا للتحقق من بقاء البحث ضمن النطاق المعتمد.
- سجل تدقيق لكل أمر
- تسجيل شاشة الجلسة
- إصدار تقرير لأغراض التدقيق
الوظائف الأساسية
بيئة بحثية معزولة
عزل الباحثين باستخدام نطاقات الأسماء وNetworkPolicy
عمليات الفريق الأحمر
تمارين هجومية ضمن النطاق والسيناريوهات المتفق عليها
الفريق الأحمر للذكاء الاصطناعي
اختبارات أمنية آلية للنماذج اللغوية الكبيرة والوكلاء
أبحاث الثغرات
نبلغ المصنّع أولًا بالثغرات المكتشفة حديثًا
سجل التدقيق
سجل موقّع لكل أمر
ضبط إخراج الملفات
إخراج الملفات التي اعتُمدت ووُقّعت فقط
آلية العمل
اعتماد النطاق
توثيق الاتفاق على هدف البحث ونطاقه
إنشاء البيئة
إعداد مساحة عمل معزولة ونسخة من النظام المستهدف
بحث
اختبارات هجومية وتجارب
مراجعة
مراجعة النتائج والموافقة على إخراجها
تطبيق
إعداد مسودات لقواعد الكشف بصيغتي Sigma وYARA وإعداد التقارير
أدوات التكامل وطرقه
نستخدم واجهات برمجة التطبيقات (API) وSyslog. نتحقق من نطاق التكامل مع كل أداة وفقًا لإصدارها وبيئة تشغيلها.
خيارات النشر
| الطريقة | الوصف | موصى به |
|---|---|---|
| النشر المحلي والشبكات المغلقة | نثبّت الحل في مركز بيانات العميل وننقل تحديثات قواعد الكشف والنماذج في حزم تُستورد دون اتصال، لندعم التشغيل دون اتصال خارجي. | القطاع المالي والقطاع العام والدفاع |
| سحابة مخصصة | نخصص لكل عميل بيئة مستقلة في منطقة سحابية داخل كوريا الجنوبية. | المؤسسات الكبرى والرعاية الصحية |
| مُدار | تتولى Genox المراقبة الأمنية في هذا التكوين من خدمة MDR. نحدد نطاق التشغيل وإجراءات الاستجابة خلال الاستشارة. | الشركات متوسطة الحجم والمنشآت الصغيرة والمتوسطة |
| شركاء خدمات الأمن المُدارة (MSSP) | يخصص مزود المراقبة الأمنية بيئة مستقلة لكل عميل ويديرها مباشرة. | شركات متخصصة في الأمن |
الأسئلة الشائعة
هل يمكن للعملاء الاستفسار عن استخدام Research Lab؟
يمكن للجهات التي لديها فريق أحمر داخلي الاستفسار أثناء استشارة التبني عن نطاق إتاحة البيئة البحثية المعزولة وشروطها.
كيف تُعالج الثغرات المكتشفة حديثًا؟
نتبع مبدأ الإفصاح المسؤول. نبلغ المصنّع أولًا ثم ننشر التفاصيل بعد صدور التصحيح.

استشارة بشأن تبنّي Research Lab
أطلعنا على بيئة التشغيل لنوضح لك نطاق العرض التوضيحي والتحقق العملي.