3分でわかる製品ツアー 緊急インシデントのメール連絡
セキュリティブログ

セキュリティAIで顧客ごとのデータを分離する設計

セキュリティAIはログ、脆弱性、内部ネットワークの構成情報を処理します。
公開されたテナント分離の研究をもとに、顧客専用環境の設計で考慮すべき運用とデータ処理の要件を解説します。

セキュリティAIで顧客ごとのデータを分離する設計

セキュリティAIが扱うデータ

セキュリティAIには、サーバーごとに残っている脆弱性、管理者アカウントのログイン元、内部ネットワークの区画といった機微な情報が集まります。侵入者が時間をかけて収集するような情報が、一か所にまとまっています。

AIプラットフォームでテナント分離が破られた事例

Wiz Researchは2024年、Hugging FaceとReplicateのAIサービスにおけるテナント分離の調査結果を公開しました。Hugging FaceではPickle形式のモデルの処理を通じてコンテナの境界を越え、他の顧客のモデルにアクセスできる状態を確認しました。ReplicateでもCogコンテナの処理を通じて、他の顧客のプロンプトや実行結果にアクセスできる可能性を確認しました。両社はWizと協力して問題を修正しました。

両事例では、顧客がアップロードしたモデルやコンテナに含まれるコードが共有インフラ上で実行されました。これはAIサービスでよくある構成です。同じクラスターで他の顧客のワークロードも動く場合、データの保護はクラスターの分離に依存します。

Genoxが採用した構成

顧客ごとにコンピューティングリソースとネットワークを分けます。各サブシステムは他のワークロードが配置されない専用ノードで動作し、外部への通信はポリシーで制限します。Kubernetesで実装する場合の構成例を以下に示します。

kubectl taint nodes gx-node-01 dedicated=tenant-a:NoSchedule

apiVersion: networking.k8s.io/v1
kind: NetworkPolicy
metadata:
  name: default-deny-egress
  namespace: tenant-a
spec:
  podSelector: {}
  policyTypes: ["Egress"]

taintは、そのノードへの他のPodの配置を防ぎます。対象顧客のPodにはtolerationとnodeAffinityを指定し、専用ノードに配置されるようにします。設定が不足すると、専用ノードが空いたまま、対象のPodが共有ノードに配置されることがあります。NetworkPolicyを利用するにはネットワークプラグインの対応が必要です。設定後に実際の通信を確認してください。

閉域網への導入を基本とし、クラウドを利用する場合も、韓国内のリージョンに顧客専用の環境を用意します。

運用コストと制約

専用環境では、使っていない時間帯も顧客ごとにリソースを確保するため、コストがかかります。閉域網から外部のモデルを呼び出せないため、モデルや検知ルールの更新は搬出入の手続きに従って別途届ける必要があり、反映までに時間がかかります。

当社は、セキュリティAIが扱うデータの機密性を踏まえ、専用環境のコストに見合う価値があると考えています。導入方式は、扱うデータ、規制要件、運用体制を踏まえてご検討ください。

参考資料

範囲と時期を
Genoxにご相談ください。

お問い合わせ