
攻撃研究とAIレッドチームの活動は
隔離環境で実施します
攻撃研究とAIレッドチームの活動は、隔離環境で実施します。
外部送信はデフォルトで遮断し、成果物の持ち出しには責任者の承認が必要です。
導入相談適用範囲と導入環境は、導入相談の際に確認します。 導入のご案内
研究成果物は
承認を得た場合に限り持ち出せます
研究者ごとにKubernetesの名前空間を割り当て、外部への通信はデフォルト拒否のポリシーで遮断します。
報告書やコードの持ち出しには、責任者の承認と電子署名が必要です。
- ポリシーで外部送信をデフォルト拒否
- 持ち出すファイルのハッシュと承認者を記録
- 研究者ごとに名前空間を分離
lab-ns/target-01進行中
ポリシー:egress-deny10:41
責任者の承認待ち10:55
AIモデルとエージェントの
攻撃耐性をテストします
GarakやPyRITなどの公開ツールと独自のシナリオを使い、プロンプトインジェクション、ジェイルブレイク、ツール操作に対する耐性を繰り返し検証します。英語のデータセットでは検知しづらい韓国語の回避表現は、研究者が個別に収集します。成功した攻撃テストについては、再現手順とガードレールルール案をまとめてお渡しします。
- 直接・間接のインジェクションとツール操作の攻撃テストセット
- 韓国語の言い換えを使った攻撃テストセット
- 成功した攻撃テストをガードレールルール案に反映
入力元をポリシーと照合記録
承認が必要かを確認レビュー
許可された範囲と実行記録を照合記録
誰がいつ何をしたか
すべて記録します
コマンドの実行、対象へのアクセス、持ち出し申請は、すべて署名付きの監査ログに記録されます。
研究が承認済みの範囲内で行われたかを事後確認する際に、この記録を参照します。
- コマンド単位の監査ログ
- セッション画面の録画
- 監査対応用のレポートを出力
主な機能
隔離された研究環境
名前空間とNetworkPolicyで研究者ごとに分離
レッドチームの運用
合意した範囲とシナリオ内で攻撃演習を実施
AIレッドチーム
LLMとエージェントに対する攻撃テストを自動実行
脆弱性研究
新たに発見した脆弱性は、まず製造元に通知します
監査ログ
コマンド単位の署名付き記録
持ち出し制御
承認と署名を済ませたファイルのみ持ち出し可能
仕組み
実施範囲の承認
研究目的と対象範囲を書面で合意
環境を作成
隔離作業環境と対象の複製を用意
研究
攻撃研究と実験
レビュー
結果のレビューと持ち出しの承認
反映
Sigma・YARAの検知ルール案とレポートを作成
連携ツールと連携方法
APIとSyslogを使用します。各ツールとの連携範囲は、バージョンと運用環境に応じて確認します。
導入オプション
| 方式 | 説明 | 推奨 |
|---|---|---|
| オンプレミス・閉域網 | お客様のデータセンターに設置します。検知ルールとモデルの更新はオフラインパッケージで取り込み、外部接続なしで稼働します。 | 金融・公共・防衛 |
| 専用クラウド | 韓国内のリージョンに、お客様専用の環境を設けます。 | エンタープライズ・医療 |
| マネージド | Genoxがセキュリティ監視を担当するMDR構成です。運用範囲と対応手順はご相談時に確認します。 | 中堅・中小企業 |
| MSSPパートナー | セキュリティ監視事業者が顧客ごとにテナントを分け、自社で運用します。 | セキュリティ専門企業 |
よくあるご質問
顧客企業もResearch Labの利用について相談できますか?
自社にレッドチームを持つ組織は、提供可能な隔離研究環境の範囲と利用条件を導入相談で確認できます。
新たに見つかった脆弱性はどのように取り扱いますか?
責任ある開示の原則に従います。まず製造元に通知し、パッチが提供された後に公開します。
