جولة في المنتج خلال 3 دقائق بلاغ حادث عاجل بالبريد
القانون الأساسي للذكاء الاصطناعي

تقييم الذكاء الاصطناعي الأمني
بموجب القانون الأساسي الكوري

دخل القانون الإطاري الكوري لتطوير الذكاء الاصطناعي وإرساء أسس الثقة («القانون الأساسي للذكاء الاصطناعي»، 인공지능 발전과 신뢰 기반 조성 등에 관한 기본법) حيّز التنفيذ في 22 يناير 2026. وينطبق على منتجات الذكاء الاصطناعي وخدماته المقدمة في كوريا، بما في ذلك ما تقدمه شركات أجنبية. لا تُعدّ أنظمة المراقبة الأمنية عادةً عالية التأثير بمجرد استخدامها لهذا الغرض، لكن على كل مزوّد معني التحقق مسبقًا من تصنيفها. يوضح هذا الدليل كيفية توثيق هذا التحقق وتوفير السجلات اللازمة لشرح النتائج.

المتطلبات

أحكام ترتبط بالعمل الأمني

صدر القانون برقم 20676 في 21 يناير 2025. ونصّت أحكامه الإضافية على أن يبدأ سريانه بعد عام من إصداره. يقتصر الجدول على الأحكام المتصلة بالعمل الأمني.

الحكممضمونه
المادة 2(4)
الذكاء الاصطناعي عالي التأثير
أنظمة قد يكون لها أثر كبير في حياة البشر أو سلامتهم الجسدية أو حقوقهم الأساسية، أو قد تعرّضها للخطر، عند استخدامها في المجالات المذكورة في القانون: إمدادات الطاقة، وإنتاج مياه الشرب، والرعاية الصحية، والأجهزة الطبية، والمنشآت النووية، وتحليل البيانات البيومترية في التحقيقات الجنائية، والقرارات ذات الأثر الكبير في حقوق الأفراد والتزاماتهم مثل التوظيف ودراسة طلبات القروض، والنقل، وقرارات الجهات الحكومية وما يماثلها بشأن الخدمات العامة، وتقييم الطلاب، وأي مجالات يحددها مرسوم رئاسي
المادة 2(7)
الجهات العاملة في مجال الذكاء الاصطناعي
تشمل الجهات التي تطوّر أنظمة الذكاء الاصطناعي وتوفّرها، والجهات التي تستخدم تلك الأنظمة في تقديم منتجات أو خدمات
المادة 3(2)ينبغي أن يتمكن المتأثرون من الحصول، بالقدر الممكن تقنيًا والمعقول، على شرح واضح ومفيد للمعايير والمبادئ الأساسية التي أدت إلى النتيجة النهائية
المادة 31
التزامات الشفافية
إبلاغ المستخدمين مسبقًا بأن المنتج أو الخدمة يعتمد على ذكاء اصطناعي عالي التأثير أو توليدي. وسم المخرجات التي يولّدها الذكاء الاصطناعي. وإذا تعذّر بسهولة تمييز الصوت أو الصور أو الفيديو عن الواقع، يجب إخطار المستخدمين أو وسم المحتوى بوضوح
المادة 33
التحقق من تصنيف النظام عالي التأثير
التحقق مسبقًا عند توفير منتج أو خدمة ذكاء اصطناعي مما إذا كان النظام عالي التأثير، مع إمكان طلب تأكيد من وزير العلوم وتكنولوجيا المعلومات والاتصالات عند الحاجة
المادة 34
التزامات مزوّدي الأنظمة عالية التأثير
وضع خطة لإدارة المخاطر وتنفيذها، ووضع خطة لشرح النتائج النهائية والمعايير الأساسية وتقديم نظرة عامة على بيانات التدريب، وإقرار تدابير لحماية المستخدمين والإشراف البشري، وإعداد وثائق تثبت تدابير السلامة والموثوقية المتخذة والاحتفاظ بها، إلى جانب متطلبات أخرى
المادة 35
تقييم الأثر
ينبغي بذل الجهد لتقييم الأثر في الحقوق الأساسية عند توفير منتجات أو خدمات ذكاء اصطناعي عالي التأثير. وتعطي الجهات الحكومية وما يماثلها الأولوية للمنتجات والخدمات التي خضعت لهذا التقييم
المادة 43
الغرامات الإدارية
تصل الغرامة إلى 30 مليون وون كوري، مثلًا عند إغفال الإخطار المنصوص عليه في المادة 31(1)
تحديد التصنيف

هل تُعد المراقبة الأمنية استخدامًا عالي التأثير؟

لا يرد الأمن السيبراني ضمن المجالات المذكورة في القانون. ونرى أن معظم استخدامات الذكاء الاصطناعي في تصنيف البرمجيات الخبيثة أو تجميع تنبيهات الاختراق تقع خارج تلك المجالات.

يتوقف التصنيف على طريقة الاستخدام. فإذا دخلت درجات تقييم التهديدات الداخلية مباشرةً في قرارات تأديبية أو تقييمات أداء الموظفين، فقد تقترب من القرارات التي تؤثر تأثيرًا كبيرًا في حقوق الأفراد والتزاماتهم. وتحتاج القرارات التي تتخذها جهة عامة استنادًا إلى نتائج المراقبة وتؤثر في المواطنين إلى دراسة أدق. وقد تُضاف مجالات بمرسوم رئاسي، فراجع المرسوم التنفيذي أيضًا.

يظل التحقق المسبق بموجب المادة 33 مطلوبًا، وينبغي توثيقه لإمكان شرحه لاحقًا. وإذا بقي التفسير غير واضح، يمكن طلب تأكيد من وزير العلوم وتكنولوجيا المعلومات والاتصالات.

عند استخدام النظام داخل مؤسستك فقط

إذا اقتصرت الاستفادة من النظام على عملياتك الأمنية الداخلية ولم تقدّم به منتجات أو خدمات للغير، فقد تختلف التفسيرات بشأن اعتبارك جهة تستخدم الذكاء الاصطناعي لأغراض القانون. يُستحسن عرض هذه النقطة على مستشار قانوني.

بصفتها مطوّرًا ومزوّدًا للذكاء الاصطناعي، تتولى Genox التحقق مما إذا كان Genox Cybersecurity AI نفسه يندرج ضمن الأنظمة عالية التأثير.

ربط المتطلبات بالوظائف

كيف تدعم وظائف Genox هذه المتطلبات؟

توفّر الوظائف التالية سجلات وإجراءات تساعدك على الاستعداد للالتزامات.
ويبقى التحقق من الامتثال للقانون من مسؤوليتك.

المتطلبوظائف Genox وخدماتها ذات الصلةمسؤوليات مؤسستك
المادة 33
التحقق المسبق من تصنيف النظام
حصر استخدامات الذكاء الاصطناعي في المؤسسة ومعايير التحقق منها، ضمن استشارات حوكمة الذكاء الاصطناعيتقييم كل استخدام وطلب تأكيد من الوزارة عند الحاجة
المادة 3(2) والمادة 34(1)(ii)
الشرح
سجل يضم الأدلة والتعليل ودرجة الثقة ومعرّفات تقنيات ATT&CK لكل حكمتحديد طريقة شرح النتائج للمتأثرين والرد عليهم
المادة 34(1)(iv)
الإشراف البشري
يتطلب العزل والحجب وقفل الحساب موافقة محلل أمني. وتقتصر الاستجابة الآلية على نطاق السياسة المتفق عليها.تعيين المخوّلين بالموافقة وتحديد نطاق سياسات الاستجابة الآلية
المادة 34(1)(v)
إعداد الوثائق وحفظها
حفظ المدخلات وإصدار النموذج والسياسة لكل حكم، ومقارنة نتائج إعادة التشغيل، وحفظ سجلات التدقيق الموقّعةتحديد مدد الاحتفاظ وإدماج السجلات في نظام إدارة الوثائق
المادة 34(1)(i)
خطة إدارة المخاطر
الاستفادة من نتائج تقييم أمن الذكاء الاصطناعي والنماذج اللغوية الكبيرة بواسطة الفريق الأحمر لتحديد المخاطروضع خطة إدارة المخاطر وتنفيذها وتحديد المخاطر المتبقية المقبولة
المادة 31
الإخطار والوسم للشفافية
لا توجد وظيفة لهذا الغرضالإخطار المسبق ووسم مخرجات خدمات الذكاء الاصطناعي التي تقدّمها للغير

قد تختلف صياغة النتائج عند إعادة تشغيل نماذج الذكاء الاصطناعي. وإذا تغيّر الحكم نفسه، يُسجَّل الاختلاف.

تقييم الفريق الأحمر

تقييم أمان خدمة الذكاء الاصطناعي قبل إطلاقها

إذا كنت تشغّل خدمة تتضمن ذكاءً اصطناعيًا توليديًا، مثل روبوت محادثة لدعم العملاء أو وكيل للمهام الداخلية، فتسري التزامات الإخطار والوسم بموجب المادة 31.
وإذا وقع الاستخدام ضمن مجال عالي التأثير، تسري أيضًا إدارة المخاطر المنصوص عليها في المادة 34.

  • تُختبر فئات المخاطر المعروفة، ومنها حقن التعليمات المباشر وغير المباشر، وتجاوز الضوابط، والتلاعب باستخدام الأدوات.
  • تُخصّص اختبارات للغة الكورية لتغطية حالات قد لا تظهر في مجموعات الاختبار الإنجليزية.
  • يوثّق التقرير الحالات المؤكدة ونتائج التحقق وقواعد الحماية المقترحة. ويمكن إرفاقه بوثائق إدارة المخاطر.
  • يبيّن التقرير حدود التغطية ونطاق السيناريوهات التي شملها التقييم.
اطّلع على تقييم أمن الذكاء الاصطناعي بواسطة الفريق الأحمر
أسئلة شائعة

أسئلة حول القانون الأساسي للذكاء الاصطناعي

هل يُعد Genox Cybersecurity AI عالي التأثير؟

صمّمنا Genox لعمليات أمنية مثل تصنيف البرمجيات الخبيثة وربط التنبيهات وتحديد أولويات الثغرات. لا تستهدف المنصة المجالات المذكورة في القانون مباشرةً. وقد يتغير التصنيف بحسب استخدام العميل، لذا نراجع الاستخدامات المقصودة معك عند اعتماد الحل.

ما الذي يجب الاحتفاظ به للوفاء بالتزام الشرح؟

ينبغي أن يربط سجل واحد البيانات التي روجعت والمعايير المستخدمة والنتيجة المتوصل إليها. تحتفظ Genox بالأدلة والتعليل ودرجة الثقة لكل حكم، بما في ذلك الأدلة المناقضة له. وإذا احتجت إلى معلومات من مرحلة تطوير النموذج، مثل نظرة عامة على بيانات التدريب، فتواصل معنا للتحقق مما يمكن توفيره.

هل تصدر Genox شهادة ISO/IEC 42001؟

تتولى جهات التصديق المعتمدة إصدار الشهادة. تساعد Genox في مواءمة سياسات الذكاء الاصطناعي مع النص المنشور من معيار ISO/IEC 42001.

ما الذي ينبغي لشركة مالية مراجعته أيضًا؟

بدأ تطبيق إرشادات لجنة الخدمات المالية للذكاء الاصطناعي في القطاع المالي في 22 يونيو 2026. وهي إرشادات للتنظيم الذاتي، وتنص على سريان التزامات القانون بشكل مستقل إذا صُنّف النظام عالي التأثير. راجع دليل لائحة الإشراف المالي الإلكتروني والذكاء الاصطناعي في القطاع المالي.

المراجع

المصادر الرسمية

تواصل معنا

ابدأ بحصر استخدامات الذكاء الاصطناعي في مؤسستك

نبدأ بتحديد الفرق التي تستخدم الذكاء الاصطناعي والأنظمة المستخدمة وأغراضها.
وعلى أساس هذا الحصر، نراجع تصنيف التأثير ونطاق تقييم الفريق الأحمر.

تحدّث إلى أحد خبراء
الأمن في Genox.

تواصل معنا