
الأسئلة التي يطرحها المدققون
عندما يغلق الذكاء الاصطناعي تنبيهًا أو يخفض مستوى خطورته، يطرح التدقيق أو التحقيق ثلاثة أسئلة. ما الأدلة التي استند إليها؟ ما النموذج والقواعد التي كانت تعمل آنذاك؟ وهل تُسفر إعادة التشغيل اليوم عن الخلاصة نفسها؟ يكفي توثيق السجلات جيدًا للإجابة عن السؤالين الأولين، أما الثالث فيتطلب فحصًا إضافيًا.
حدود ضبط temperature على 0
قد يُتوقع أن يضمن ضبط temperature على 0 الإجابة نفسها لكل مدخل متماثل. تشرح مقالة Thinking Machines Lab المنشورة في سبتمبر 2025 كيف يتغير حجم دفعة الطلبات على خادم الاستدلال تبعًا للحمل، وقد تغيّر نوى GPU الشائعة ترتيب الحساب تبعًا لحجم الدفعة، فتختلف النتائج رغم تطابق المطالبة. وتتيح النوى التي لا تتأثر بحجم الدفعة الحصول على مخرجات متطابقة على مستوى البتات، مقابل بعض الانخفاض في سرعة المعالجة.
نعطي الأولوية للاحتفاظ بالمدخلات والمخرجات الأصلية كما كانت عند اتخاذ القرار. ونستخدم نتيجة إعادة التشغيل للمقارنة بالقرار الأصلي. فإذا اختلفت الخلاصة، استحق القرار المراجعة لأن الحالة قد تكون قريبة من الحد الفاصل.
الحقول التي نوثّقها لكل قرار
يجمع Threat Correlator لكل قرار الأدلة والتعليل والقرار والتوصية في سجل واحد. وفيما يلي مثال عام على محتوى السجل.
{
"verdict_id": "...",
"decided_at": "2026-10-21T02:13:44+09:00",
"verdict": "true_positive",
"severity": "high",
"evidence": [
{"source": "edr", "ref": "event_id=...", "sha256": "..."},
{"source": "proxy", "ref": "proxy/2026/10/21/02.log#L1840", "sha256": "..."}
],
"attack_mapping": ["T1059.001", "T1490"],
"model": {"name": "...", "version": "...", "temperature": 0},
"prompt_template": "triage-v14",
"policy_version": "auto-response-2026.10",
"input_digest": "sha256:...",
"output_raw": "...",
"reviewed_by": "analyst-042"
}
كل حقل بسيط في حد ذاته. وأكثر ما يسهل إغفاله هو prompt_templateو policy_version. إذا غيّرت صياغة المطالبة مع بقاء النموذج نفسه، فقد تغيّر معيار القرار. لذا أدِر إصدارات المطالبات كما تدير إصدارات الشيفرة.
غالبًا ما يكفي تسجيل موضع السجلات الأصلية وقيمة تجزئتها من دون نسخها. وإذا كانت مدة الاحتفاظ بسجلات المصدر أقصر من مدة الاحتفاظ بالقرارات، فقد يجد المدقق بعد سنة القرار من دون السجلات التي استند إليها. وحّد مدد الاحتفاظ.
لماذا نسجّل معرّفات تقنيات ATT&CK؟
إرفاق معرّف مثل T1059.001بوصف مثل «تشغيل PowerShell مشبوه» يحدّ من الخلافات في التدقيق. يوفر MITRE ATT&CK تصنيفًا عامًا مشتركًا يمكن لجهة مستقلة مراجعة الأدلة وفقه. وقد يكون الربط غير دقيق أو ينطبق أكثر من أسلوب على التنبيه نفسه، لذا يخضع الربط أيضًا لمراجعة المحلل.
المتطلبات التنظيمية
يلزم القانون الإطاري للذكاء الاصطناعي في كوريا الجنوبية، النافذ منذ 22 يناير 2026، الجهات التي تقدم أنظمة ذكاء اصطناعي عالية الأثر بنشر أبرز جوانب تدابير إدارة المخاطر وشرح عمل النظام، ضمن متطلبات المادة 34. ويتوقف انطباق التصنيف على الذكاء الاصطناعي الأمني على سياق استخدامه. وإذا استُخدمت قراراته في أعمال تمس حقوق الأفراد، مثل التوظيف أو دراسة طلبات القروض، فإن تحديد الانطباق يستلزم مراجعة قانونية. ويظل توثيق أساس القرار مفيدًا في الحالتين.
المراجع
- Defeating Nondeterminism in LLM Inference, Thinking Machines Lab, 2025.9
- Command and Scripting Interpreter: PowerShell, T1059.001, MITRE ATT&CK
- القانون الإطاري للنهوض بالذكاء الاصطناعي وإرساء أسس الثقة (كوريا الجنوبية)، المركز الوطني الكوري للمعلومات التشريعية


