
用于安全监控的 AIAI 负责调查,
AI 负责调查,
分析员审批判定结果
| 自动化程度 | AI 负责的工作 | 人工负责的工作 | Genox 默认设置 |
|---|---|---|---|
| L1 辅助 | 摘要与检索 | 所有判断 | - |
| L2 分类 | 告警分类与优先级 | 调查与判断 | - |
| L3 调查 | 调查与整理依据 | 审批判定结果 | ✓ 默认 |
| L4 响应 | 在约定范围内自动响应 | 策略设计与例外处理 | 按风险等级和资产选择 |
此为便于理解的虚构场景,画面中的时间和数值均为示例。
AI 助手的权限范围与拦截依据
选择一个场景,查看虚拟办公助手允许哪些请求,以及会忽略或拦截哪些指令。
待审查场景
此虚拟助手仅拥有读取公开帮助信息的权限。访问数据与执行工具的权限分别审查。
本模拟使用预设逻辑展示场景及判定结果,实际 AI 模型和外部工具均未接入。
场景
这项请求要求从公开帮助文档中查询支持时间。
判定
允许
依据
查询公开帮助信息属于允许列表中的只读操作。
AI 威胁图谱针对 AI 系统的威胁与
针对 AI 系统的威胁与
Genox 提供的服务
| 威胁 | 说明 | 风险等级 | Genox 应对措施 |
|---|---|---|---|
| 提示注入 | 通过直接或间接指令操纵行为 | 高 | 红队评估、结构隔离与行为检测 |
| 智能体权限过大 | 工具和数据权限超出所需范围 | 高 | 权限图谱与最小权限差异 |
| MCP 供应链 | 冒充或篡改的 MCP 服务器 | 高 | 验证来源和签名,在隔离环境中评估 |
| 敏感信息泄露 | 通过回复或 RAG 检索泄露信息 | 中 | 检查 RAG 权限和输出 |
| 模型篡改与投毒 | 恶意模型文件与训练数据污染 | 中 | 模型扫描与 AI-BOM |
| 影子 AI | 使用未经批准的 AI | 低 | AI 资产清单与治理 |