
AIとセキュリティ
AIセキュリティ監視と
AIセキュリティ監視と
社内AIのセキュリティ
アラートの分類と1次調査にAIを活用します。
組織で利用するチャットボットやエージェントの権限とデータ処理の流れを点検します。
セキュリティ監視に活用するAI調査はAIが行い
調査はAIが行い
判定はアナリストが承認します
| 自動化の度合い | AIが担うこと | 人が担うこと | Genoxの既定値 |
|---|---|---|---|
| L1支援 | 要約・検索 | すべての判定 | - |
| L2分類 | アラートの分類・優先順位付け | 調査・判定 | - |
| L3調査 | 調査・根拠の作成 | 判定の承認 | ✓ 基本 |
| L4対応 | 合意した範囲で自動対応 | ポリシー設計・例外処理 | リスクや資産に応じて選択 |
理解を深めるための架空の場面です。画面上の時刻と数値は例です。
社内AIのセキュリティ社内AIはリリース前から、
社内AIはリリース前から、
運用中、管理体制の各段階で確認します
AIアシスタントの許可範囲と遮断の根拠
状況を選ぶと、架空の業務アシスタントがどのリクエストを許可し、どの指示を無視または遮断するかを確認できます。
確認する状況
架空のアシスタントには、公開ヘルプの読み取り権限だけを付与しています。情報へのアクセス権限とツールの実行権限は個別に確認します。
あらかじめ用意した状況と判定を表示するシミュレーションです。実際のAIモデルや外部ツールには接続しません。
状況
公開ヘルプでサポートの対応時間を確認するリクエストです。
判定
許可
根拠
公開ヘルプの参照は、許可リストに登録された読み取り専用の操作です。
AI脅威マップAIシステムを狙う脅威と
AIシステムを狙う脅威と
Genoxが担うこと
| 脅威 | 説明 | リスクレベル | Genoxの対応 |
|---|---|---|---|
| プロンプトインジェクション | 直接・間接の指示による動作の操作 | 高 | レッドチーム・構造的な分離・振る舞いの検知 |
| 過剰なエージェント権限 | 必要以上のツール・データ権限 | 高 | 権限マップ・最小権限との差分 |
| MCPサプライチェーン | 偽装・改ざんされたMCPサーバー | 高 | 出所・署名の検証と隔離環境での評価 |
| 機微情報の露出 | 応答・RAG検索を介した漏えい | 中 | RAGのアクセス権限点検・出力検査 |
| モデルの改ざん・ポイズニング | 悪意のあるモデルファイル・学習データの汚染 | 中 | モデルスキャン・AI-BOM |
| シャドーAI | 未承認のAI利用 | 低 | AIインベントリ・ガバナンス |