
AIアプリケーションの
権限とデータの流れを点検します
社内チャットボット、検索拡張生成(RAG)、AIエージェント、外部モデルを対象に、入力処理、ツール権限、サプライチェーンのリスクを点検します。検証範囲と成果物は導入相談で確認できます。体験コンテンツでは架空のシナリオを紹介します。
運用中プロンプトインジェクション、MCPのツール説明、過剰なツール権限、サプライチェーン上のパッケージに関するシナリオを再現して診断します。体験コンテンツはシミュレーションです。 サービス基準
サービス範囲と進め方
顧客ごとの専用分析ノード
分析はお客様ごとに割り当てた専用ノードで行います。コンピューティングリソースやストレージを他のお客様と共有することはありません。
判定ごとに根拠を記録します
どのエンジンがどのログを根拠に判定し、どの措置を推奨したかを一件の記録にまとめます。監査時にはその記録をそのまま提出できます。
過去の判定も再実行して検証できます
判定時に使ったモデルとポリシーのバージョンを併せて記録します。先月の判定に疑問があれば、同じデータで再実行し、結果を比較できます。
最終判断は人が行います
アラートの分類と要約はAIが行い、対応はアナリストが承認します。サーバーの隔離やアカウントのロックは、人の承認を受けてから実行します。
AIセキュリティ診断のサービス内容
LLMアプリケーションの診断
チャットボット、RAG、社内AIサービスを20項目で点検します。
詳しく見るAIエージェント・MCP診断
エージェントのツール権限、委任関係、MCP接続を点検します。
詳しく見るモデル・サプライチェーンの診断
外部から取得したモデル、データセット、プラグインの安全性を確認します。
詳しく見るLLMアプリケーションの診断
OWASP LLM Top 10を基に、AIエージェントへの脅威と韓国の規制項目を加えた20項目で点検します。サービス構成に合わせた攻撃シナリオを再現します。プレイグラウンドはシミュレーションです。
特長
20の点検項目
OWASP LLM Top 10に、エージェントへの脅威と韓国の規制項目を加えています。
隔離された実験環境
テスト用の攻撃プロンプトと成果物は外部に出しません。
再現の証跡を添付
脆弱性ごとに、テストに使用したプロンプトと実際の応答を添付します。
防御ルールの提案
見つかった脆弱性ごとに、適用するガードレールとフィルタールールを提示します。
主な診断項目(20項目)
| 分類 | 診断項目 | 説明 | リスクレベル |
|---|---|---|---|
| 入力 | 直接プロンプトインジェクション | システム指示の無効化やロールのすり替え | 高 |
| 入力 | 間接プロンプトインジェクション | 文書・ウェブページ・メールに隠された指示が実行される | 高 |
| 入力 | ジェイルブレイク(Jailbreak) | 安全ポリシーを回避する応答の誘導 | 中 |
| 入力 | 多言語・エンコーディングによる回避 | 韓国語の表記変形やBase64などを使ったフィルター回避 | 中 |
| データ | システムプロンプトの漏えい | 内部指示や業務ロジックの露出 | 中 |
| データ | 機微情報の露出 | 応答に個人情報や営業秘密が混入する | 高 |
| データ | RAGのアクセス制御の回避 | 利用者に権限のない文書が検索結果に表示される | 高 |
| データ | 学習データの抽出 | モデルが記憶した学習データをそのまま出力する | 中 |
| エージェント | 過剰なツール権限 | 過剰な権限を持つツール・APIへの接続 | 高 |
| エージェント | ツール呼び出しの操作 | インジェクションによるメール送信・DB参照などの誘導 | 高 |
| エージェント | MCPサーバーのなりすまし | 悪意ある、または改変されたMCPサーバーへの接続 | 高 |
| エージェント | 承認手続きの回避 | 人の承認が必要な手順を飛ばすよう誘導する | 中 |
| 出力 | 不適切な出力処理 | モデル出力がコードやクエリとしてそのまま実行される | 高 |
| 出力 | 有害コンテンツの生成 | ポリシーに違反するコンテンツの生成 | 中 |
| 出力 | ハルシネーションによる誤情報 | 根拠のない情報や存在しないリンクの生成 | 低 |
| サプライチェーン | モデルファイルの改ざん | 悪意あるシリアライズ済みファイル、バックドアが仕込まれたモデル | 高 |
| サプライチェーン | データポイズニング | ファインチューニング・RAG用データの汚染 | 中 |
| 運用 | リソースの枯渇 | 過剰なトークン消費や呼び出しによる費用急増・障害 | 中 |
| 運用 | ログ・監査の欠如 | プロンプトやツール呼び出しが記録されない | 低 |
| ガバナンス | 規制との整合性 | 韓国のAI基本法・個人情報保護法の要件を満たさない | 低 |
実施の流れ
脅威モデリング
サービスの構成とデータの流れを把握します
- 脅威モデル
攻撃テストの自動実行
テスト用の攻撃プロンプトセットを自動実行します
- 自動診断の結果
再現
項目ごとのシナリオを再現し、結果を記録します
- 脆弱性一覧
防御設計
ガードレールと権限の改善案を作成します
- 防御ガイド
再検証
対策後に攻撃耐性を再テストします
- 実施状況の点検書
よくあるご質問
モデルを外部に送る必要はありますか?
顧客環境内または隔離されたResearch Labで点検し、テスト用の攻撃データは外部に出しません。
韓国のAI基本法への対応にも使えますか?
高影響AIのリスク管理要件に関連する項目を、報告書の中で明示します。
詳しくは関連コンテンツをご覧ください
AIエージェント・MCP診断
AIエージェントが呼び出せるツール、API、MCPサーバーと、それぞれの権限を一覧にします。
次に、文書やメールに含まれる不審な指示によって、エージェントがメール送信やDB参照を行ってしまうかをテストします。
特長
権限マップ
エージェントごとにアクセスできるツールとデータを1枚にまとめます。
委任関係の分析
エージェントが別のエージェントを呼び出す際、権限がどのように引き継がれるかを確認します。
MCPサーバーの検証
連携するMCPサーバーの出所、バージョン、署名を確認します。
ツール呼び出しの監視ルール
通常のツール呼び出しパターンを整理し、そこから外れた呼び出しを検知するルールを提示します。
実施の流れ
一覧化
エージェント、ツール、MCPの構成を整理します
- 権限マップ
攻撃
ツール呼び出しを操作できるか試します
- 脆弱性一覧
改善
縮小すべき権限を項目ごとに提案します
- 権限の改善案
モニタリング
挙動分析の検知ルールを適用します
- 検知ルール
詳しくは関連コンテンツをご覧ください
モデル・サプライチェーンの診断
公開リポジトリから取得したモデルファイル、データセット、プラグインに、悪意あるコードや汚染されたデータが混入していないか検査します。
特長
モデルファイルの検査
pickleなどのシリアライズ形式のモデルファイルに、読み込み時に実行されるコードが隠されていないかを検査します。
AI-BOMの作成
利用しているモデル、データ、ライブラリを一覧で管理できるように整理します。
隔離環境での実行
隔離されたResearch Labでモデルを実行し、異常な挙動を確認します。
搬入手続きの策定
出所と完全性を確認し、承認するための社内手続きを整備します。
実施の流れ
一覧化
利用中のモデルとデータを整理します
- AI-BOM
静的検査
ファイル内に隠されたコードを検出します
- 検査結果
実行時の評価
隔離環境で実行して確認します
- 評価結果
ポリシーの策定
承認済みのモデルだけを利用する仕組みを設計します
- 搬入ポリシー文書




