
セキュリティ用途のAIも
AI基本法の適用を確認
韓国の「人工知能の発展と信頼基盤の整備等に関する基本法」(AI基本法、原文「인공지능 발전과 신뢰 기반 조성 등에 관한 기본법」)は2026年1月22日に施行されました。海外企業による提供を含め、韓国で提供されるAI製品とサービスが対象です。セキュリティ監視用AIが直ちに高影響AIに該当する例は限られますが、AI事業者には事前に該当性を確認する義務があります。確認と説明に必要な記録の残し方を紹介します。
主な要件
本法は2025年1月21日に法律第20676号として公布され、附則に従い公布の1年後に施行されました。
以下では、セキュリティ業務に関わる条項を取り上げます。
| 条項 | 概要 |
|---|---|
| 第2条第4号 高影響AI | 法律に列挙された分野で用いられ、人の生命、身体の安全、基本的権利に重大な影響を与える、または危険を及ぼすおそれのあるAIシステムです。対象には、エネルギー供給、飲料水の生産、保健医療、医療機器、原子力施設、犯罪捜査のための生体情報の分析、採用・融資審査など個人の権利義務に重大な影響を与える判断、交通、国家機関等による公共サービスに関わる判断、学習者の評価、大統領令で定める分野が含まれます。 |
| 第2条第7号 AI事業者 | AIを開発・提供するAI開発事業者と、そのAIを利用した製品・サービスを提供するAI利用事業者です。 |
| 第3条第2項 | AIの影響を受ける人は、技術的に可能かつ合理的な範囲で、AIの最終結果の導出に用いた主な基準と原則について、明確で意味のある説明を受けられるようにする必要があります。 |
| 第31条 透明性に関する義務 | 高影響AIまたは生成AIを利用した製品・サービスであることを事前に利用者へ通知し、生成AIによる出力であることを表示します。現実と見分けにくい音声、画像、映像は、利用者が明確に認識できる方法で通知または表示します。 |
| 第33条 高影響AIへの該当性の確認 | AI製品またはサービスを提供する場合、事業者は高影響AIに該当するか事前に確認する必要があり、必要に応じて科学技術情報通信部長官に確認を求めることができます。 |
| 第34条 高影響AI事業者の義務 | リスク管理計画を策定・実施します。最終結果、主な基準、学習データの概要を説明する方策や、利用者の保護措置、人による監督などを整備します。実施した安全性・信頼性確保措置を示す文書の作成と保管も求められます。 |
| 第35条 影響評価 | 高影響AI製品・サービスを提供する事業者は、基本的権利への影響評価の実施に努めます。国家機関等は、評価を行った製品・サービスを優先的に考慮します。 |
| 第43条 行政上の過料 | 第31条第1項に定める通知を怠った場合などは、最大3,000万ウォンの過料が科されることがあります。 |
セキュリティ監視AIは高影響AIに該当しますか?
「サイバーセキュリティ」は法の列挙分野に含まれていません。当社では、マルウェアの分類や侵入アラートの集約を行うAIの多くは、列挙分野に該当しないと考えています。
ただし、用途によって判断が変わる場合があります。内部脅威のスコアを従業員の懲戒や人事評価に直接用いる場合、個人の権利義務に重大な影響を与える判断に近づきます。公的機関が監視結果を市民に影響する判断に用いる場合も、個別の確認が必要です。大統領令で分野が追加される場合があるため、施行令もご確認ください。
いずれの場合も、第33条に基づく事前確認を行い、後で経緯を説明できるよう記録を残す必要があります。解釈が不明確な場合は、科学技術情報通信部長官に確認を求める手続きがあります。
セキュリティAIを自社内でのみ利用する場合
自社のセキュリティ運用にのみAIを利用し、そのAIを用いた製品やサービスを第三者に提供していない場合、法律上のAI利用事業者に当たるかについて解釈が分かれることがあります。この点は法務の専門家にご確認ください。
GenoxはAIを開発・提供する事業者として、Genox Cybersecurity AI自体の高影響AIへの該当性を確認します。
Genoxの機能と法の要件
以下の機能は、義務への対応を準備する際に活用できる記録や手順です。
Genoxの利用だけで、本法に適合するわけではありません。
| 要件 | 関連するGenoxの機能・サービス | お客様が対応する事項 |
|---|---|---|
| 第33条 高影響AIの事前確認 | 社内のAI利用状況と該当性の確認基準を整理します。支援サービス: AIガバナンスのコンサルティング | 用途ごとに該当性を判断し、必要に応じて科学技術情報通信部に確認を求めます。 |
| 第3条第2項・第34条第1項第2号 説明 | 判定ごとに根拠、判断理由、確信度、ATT&CKの技術IDを関連付けて保存します。 | 影響を受ける人への説明方法を定め、問い合わせに対応します。 |
| 第34条第1項第4号 人による監督 | 端末の隔離、通信の遮断、アカウントのロックは分析担当者の承認を経ます。自動対応は合意したポリシーの範囲内で動作します。 | 承認者を指定し、自動対応ポリシーの適用範囲を決めます。 |
| 第34条第1項第5号 文書の作成と保管 | 判定に使用した入力データ、モデルとポリシーの版を保存します。再実行結果の比較や、署名付き監査ログの保管が可能です。 | 保管期間を定め、記録を社内の文書管理に組み込みます。 |
| 第34条第1項第1号 リスク管理計画 | AI/LLMレッドチーム評価 の結果を、リスクの特定に活用できます。 | リスク管理計画を策定して実施し、どの残存リスクを受容するかを判断します。 |
| 第31条 透明性のための通知と表示 | 該当する機能はありません。 | 第三者に提供するAIサービスについて、事前に通知し、出力に表示します。 |
AIモデルの性質上、再実行時の文言が完全に一致することは保証しません。判定に変更があれば、差分を記録します。
自社開発のAIを提供前に評価する
顧客対応チャットボットや社内業務エージェントなどに生成AIを組み込んだサービスを提供する場合は、第31条の通知・表示義務が適用されます。
高影響分野に該当すれば、第34条のリスク管理義務も生じます。
- 直接・間接のプロンプトインジェクション、制約の回避、ツール操作の悪用などのリスクを評価します。
- 英語のデータセットでは見落とされやすい韓国語での回避表現も、別途検証します。
- 確認できた事象とガードレールの対策案を報告書にまとめます。リスク管理文書の裏付け資料として活用できます。
- すべての攻撃手法の検出を保証するものではありません。実施した検証の範囲と想定シナリオを報告書に明記します。
よくあるご質問
Genox Cybersecurity AIは高影響AIですか?
Genoxは、マルウェア分類、アラートの相関分析、脆弱性の優先順位付けなどのセキュリティ運用向けに設計しており、法の列挙分野を直接対象としていません。利用方法によって判断が変わる場合があるため、導入時に想定用途を一緒に確認します。
説明義務に対応するために何を記録すればよいですか?
参照したデータ、適用した基準、得られた結論を関連付けて記録します。Genoxは、判定の根拠、判断理由、確信度と、判定に反する証拠を判定ごとに保存します。学習データの概要など、モデル開発段階の情報が必要な場合はGenoxにご相談ください。提供可能な範囲を確認します。
GenoxはISO/IEC 42001の認証書を発行しますか?
Genoxは認証機関ではありません。ISO/IEC 42001の公開情報に照らしてAIポリシーを整備します。認証書を発行するのは認定された認証機関です。
金融機関が併せて確認すべき事項はありますか?
韓国金融委員会の金融分野AIガイドラインは2026年6月22日に適用が始まりました。自主規制ですが、高影響AIに該当する場合には本法の義務が別途適用されると明記しています。詳細は 電子金融監督規程と金融分野のAI.
参考資料
- 人工知能の発展と信頼基盤の整備等に関する基本法(인공지능 발전과 신뢰 기반 조성 등에 관한 기본법)、韓国国家法令情報センター(韓国語)
- 同法施行令、韓国国家法令情報センター(韓国語)
- 金融分野AIガイドラインの公表、韓国金融委員会報道資料、2026年6月18日(韓国語)
社内のAI利用状況を整理する
どの部門が何の目的でどのAIを使っているか、一覧がない場合はその整理から始めます。
その上で、高影響AIへの該当性とレッドチーム評価の対象を確認します。