3分でわかる製品ツアー 緊急インシデントのメール連絡
診断 · AIセキュリティ

AIアプリケーションの
権限とデータの流れを点検します

社内チャットボット、検索拡張生成(RAG)、AIエージェント、外部モデルを対象に、入力処理、ツール権限、サプライチェーンのリスクを点検します。検証範囲と成果物は導入相談で確認できます。体験コンテンツでは架空のシナリオを紹介します。

#AIレッドチーム#LLMの脆弱性#プロンプトインジェクション#MCPセキュリティ

運用中プロンプトインジェクション、MCPのツール説明、過剰なツール権限、サプライチェーン上のパッケージに関するシナリオを再現して診断します。体験コンテンツはシミュレーションです。 サービス基準

サービス範囲と進め方

顧客ごとの専用分析ノード

分析はお客様ごとに割り当てた専用ノードで行います。コンピューティングリソースやストレージを他のお客様と共有することはありません。

判定ごとに根拠を記録します

どのエンジンがどのログを根拠に判定し、どの措置を推奨したかを一件の記録にまとめます。監査時にはその記録をそのまま提出できます。

過去の判定も再実行して検証できます

判定時に使ったモデルとポリシーのバージョンを併せて記録します。先月の判定に疑問があれば、同じデータで再実行し、結果を比較できます。

最終判断は人が行います

アラートの分類と要約はAIが行い、対応はアナリストが承認します。サーバーの隔離やアカウントのロックは、人の承認を受けてから実行します。

サービス構成

AIセキュリティ診断のサービス内容

LLMアプリケーションの診断

OWASP LLM Top 10を基に、AIエージェントへの脅威と韓国の規制項目を加えた20項目で点検します。サービス構成に合わせた攻撃シナリオを再現します。プレイグラウンドはシミュレーションです。

特長

20の点検項目

OWASP LLM Top 10に、エージェントへの脅威と韓国の規制項目を加えています。

隔離された実験環境

テスト用の攻撃プロンプトと成果物は外部に出しません。

再現の証跡を添付

脆弱性ごとに、テストに使用したプロンプトと実際の応答を添付します。

防御ルールの提案

見つかった脆弱性ごとに、適用するガードレールとフィルタールールを提示します。

主な診断項目(20項目)

分類診断項目説明リスクレベル
入力直接プロンプトインジェクションシステム指示の無効化やロールのすり替え高
入力間接プロンプトインジェクション文書・ウェブページ・メールに隠された指示が実行される高
入力ジェイルブレイク(Jailbreak)安全ポリシーを回避する応答の誘導中
入力多言語・エンコーディングによる回避韓国語の表記変形やBase64などを使ったフィルター回避中
データシステムプロンプトの漏えい内部指示や業務ロジックの露出中
データ機微情報の露出応答に個人情報や営業秘密が混入する高
データRAGのアクセス制御の回避利用者に権限のない文書が検索結果に表示される高
データ学習データの抽出モデルが記憶した学習データをそのまま出力する中
エージェント過剰なツール権限過剰な権限を持つツール・APIへの接続高
エージェントツール呼び出しの操作インジェクションによるメール送信・DB参照などの誘導高
エージェントMCPサーバーのなりすまし悪意ある、または改変されたMCPサーバーへの接続高
エージェント承認手続きの回避人の承認が必要な手順を飛ばすよう誘導する中
出力不適切な出力処理モデル出力がコードやクエリとしてそのまま実行される高
出力有害コンテンツの生成ポリシーに違反するコンテンツの生成中
出力ハルシネーションによる誤情報根拠のない情報や存在しないリンクの生成低
サプライチェーンモデルファイルの改ざん悪意あるシリアライズ済みファイル、バックドアが仕込まれたモデル高
サプライチェーンデータポイズニングファインチューニング・RAG用データの汚染中
運用リソースの枯渇過剰なトークン消費や呼び出しによる費用急増・障害中
運用ログ・監査の欠如プロンプトやツール呼び出しが記録されない低
ガバナンス規制との整合性韓国のAI基本法・個人情報保護法の要件を満たさない低

実施の流れ

脅威モデリング

サービスの構成とデータの流れを把握します

  • 脅威モデル

攻撃テストの自動実行

テスト用の攻撃プロンプトセットを自動実行します

  • 自動診断の結果

再現

項目ごとのシナリオを再現し、結果を記録します

  • 脆弱性一覧

防御設計

ガードレールと権限の改善案を作成します

  • 防御ガイド

再検証

対策後に攻撃耐性を再テストします

  • 実施状況の点検書

よくあるご質問

モデルを外部に送る必要はありますか?

顧客環境内または隔離されたResearch Labで点検し、テスト用の攻撃データは外部に出しません。

韓国のAI基本法への対応にも使えますか?

高影響AIのリスク管理要件に関連する項目を、報告書の中で明示します。

よくあるご質問の一覧を見る

AIエージェント・MCP診断

AIエージェントが呼び出せるツール、API、MCPサーバーと、それぞれの権限を一覧にします。
次に、文書やメールに含まれる不審な指示によって、エージェントがメール送信やDB参照を行ってしまうかをテストします。

特長

権限マップ

エージェントごとにアクセスできるツールとデータを1枚にまとめます。

委任関係の分析

エージェントが別のエージェントを呼び出す際、権限がどのように引き継がれるかを確認します。

MCPサーバーの検証

連携するMCPサーバーの出所、バージョン、署名を確認します。

ツール呼び出しの監視ルール

通常のツール呼び出しパターンを整理し、そこから外れた呼び出しを検知するルールを提示します。

実施の流れ

一覧化

エージェント、ツール、MCPの構成を整理します

  • 権限マップ

攻撃

ツール呼び出しを操作できるか試します

  • 脆弱性一覧

改善

縮小すべき権限を項目ごとに提案します

  • 権限の改善案

モニタリング

挙動分析の検知ルールを適用します

  • 検知ルール

モデル・サプライチェーンの診断

公開リポジトリから取得したモデルファイル、データセット、プラグインに、悪意あるコードや汚染されたデータが混入していないか検査します。

特長

モデルファイルの検査

pickleなどのシリアライズ形式のモデルファイルに、読み込み時に実行されるコードが隠されていないかを検査します。

AI-BOMの作成

利用しているモデル、データ、ライブラリを一覧で管理できるように整理します。

隔離環境での実行

隔離されたResearch Labでモデルを実行し、異常な挙動を確認します。

搬入手続きの策定

出所と完全性を確認し、承認するための社内手続きを整備します。

実施の流れ

一覧化

利用中のモデルとデータを整理します

  • AI-BOM

静的検査

ファイル内に隠されたコードを検出します

  • 検査結果

実行時の評価

隔離環境で実行して確認します

  • 評価結果

ポリシーの策定

承認済みのモデルだけを利用する仕組みを設計します

  • 搬入ポリシー文書
導入のお問い合わせ

セキュリティサービスの導入相談

運用環境と必要なセキュリティ対策の範囲をお知らせいただければ、適用できる構成をご案内します。

範囲と時期を
Genoxにご相談ください。

お問い合わせ