3 分钟产品导览 通过邮件报告紧急安全事件
AI 与安全

AI 安全监控与
企业内部 AI 安全

AI 用于告警分类和第 1 轮调查。
我们检查组织使用的聊天机器人和智能体的权限及数据处理流程。

用于安全监控的 AI

AI 负责调查,
分析员审批判定结果

自动化程度AI 负责的工作人工负责的工作Genox 默认设置
L1 辅助摘要与检索所有判断-
L2 分类告警分类与优先级调查与判断-
L3 调查调查与整理依据审批判定结果✓ 默认
L4 响应在约定范围内自动响应策略设计与例外处理按风险等级和资产选择

此为便于理解的虚构场景,画面中的时间和数值均为示例。

AI 分析报告对象 -分析中

AI 助手的权限范围与拦截依据

选择一个场景,查看虚拟办公助手允许哪些请求,以及会忽略或拦截哪些指令。

待审查场景

此虚拟助手仅拥有读取公开帮助信息的权限。访问数据与执行工具的权限分别审查。

本模拟使用预设逻辑展示场景及判定结果,实际 AI 模型和外部工具均未接入。

防护判定示例模拟

场景
这项请求要求从公开帮助文档中查询支持时间。

判定
允许

依据
查询公开帮助信息属于允许列表中的只读操作。

AI 威胁图谱

针对 AI 系统的威胁与
Genox 提供的服务

威胁说明风险等级Genox 应对措施
提示注入通过直接或间接指令操纵行为高红队评估、结构隔离与行为检测
智能体权限过大工具和数据权限超出所需范围高权限图谱与最小权限差异
MCP 供应链冒充或篡改的 MCP 服务器高验证来源和签名,在隔离环境中评估
敏感信息泄露通过回复或 RAG 检索泄露信息中检查 RAG 权限和输出
模型篡改与投毒恶意模型文件与训练数据污染中模型扫描与 AI-BOM
影子 AI使用未经批准的 AI低AI 资产清单与治理

和 Genox 谈
范围与时间。

联系我们