企业 AI 智能体安全：内容简介
本书从 AI 智能体能够读取数据、调用工具并改变系统状态这一风险变化出发。前几章建立失效模式、风险分级和运营责任；随后给出分层参考架构，深入 MCP、智能体身份和工具调用保护。中段把评估、可观测性和可靠性工程作为持续控制，并把 RAG 视为攻击面处理。后续还覆盖编码智能体、受治理交付、部署模式和策略即代码，形成从设计到运行证据的安全链路。每一层都强调授权边界、审批路径和可审计制品，方便团队把原则映射到设计评审与上线门槛。
《企业 AI 智能体安全》主要内容
- 识别工具误用、泄露、提权和提示注入
- 设计有限自主性与分层参考架构
- 保护 MCP、身份和工具调用
- 以评估、可观测性和可靠性形成控制
- 治理 RAG、编码智能体与部署策略
适合哪些读者
适合企业安全架构师、AI 平台团队、AgentSecOps、应用安全和负责智能体上线的工程负责人。需要基本云安全、身份权限和 LLM 应用知识。
安全实施必须结合实际威胁模型、合规要求和渗透测试，书中模式不能替代组织安全评审。
目录、试读与相关阅读
可在本页“目录与试读”中查看章节和正文节选，在“书籍资料”中核对作者、版本、语言与 EPUB 文件大小。同主题读本包括多智能体 AI 工程：协同团队系统设计、面向平台工程的智能体 AI，以及Python 图像处理与计算机视觉实战（第二版）。
继续浏览人工智能与 AI 工程，或查看EPUB 阅读与下载帮助。
目录与试读
目录
章节与主要小节（依据 EPUB 导航整理）：
保护企业级 AI 智能体
献给 Marilin
谨以此书纪念我的父亲 Flor De Vos
前言
本书适用对象及如何扩展其承载能力
本书未涵盖的内容
如何阅读本书
下载示例代码文件
关于工具与版本的说明
第一部分
智能体 AI 如何改变风险模型
第 1 章：从聊天机器人到行动者
学习目标
1.1 人们称之为 AI 功能的三件事
1.2 四项授权权限
1.3 生产环境风险为何呈非线性增长
1.4 简短示例：贸易融资“聊天机器人”
练习
总结
注释
第 2 章：智能体失效模式
学习目标
2.1 工具误用
2.2 数据泄露
2.3 权限提升
2.4 提示注入
2.5 静默工作流破坏
2.6 成本激增
2.7 审计漏洞
2.8 模型回归
2.9 失效模式的组合效应
示例：了解你的客户（KYC）智能体的失效模式清单
练习
摘要
注释
第 3 章：企业级智能体运营模型
学习目标
3.1 所有权问题
3.2 四项制品
3.3 人机协同是一种控制手段，而非后备方案
3.4 适当的节奏
示例：制裁筛查副驾驶的操作模型
第二个示例：本不该成为智能体的场景
练习
摘要
注释
第二部分
生产级智能体系统架构
第 4 章：安全智能体参考架构
学习目标
4.1 七层架构
4.2 为何每层需要独立的信任边界
4.3 爆炸半径规则
4.4 参考部署方案
4.5 分层设计说明
示例：重绘制裁筛查副驾驶的流程
练习
摘要
注释
第 5 章：MCP 与工具使用型 AI 技术栈
学习目标
5.1 MCP 实际上是什么
5.2 本地与远程服务器，以及差异的重要性
5.3 工具投毒：描述作为注入面
5.4 MCP 供应链
5.5 服务器信任边界
5.6 连接器生命周期
5.7 何时使用 MCP，何时不用
实践案例：一个用于制裁筛查的 MCP 服务器
练习
小结
附注
第 6 章：智能体身份
学习目标
6.1 混淆代理人问题：面向智能体的重新阐述
6.2 为何人类身份无法直接转移
6.3 实践中的委托授权：OAuth 2.1 令牌交换
6.4 智能体的最小权限原则
6.5 即时访问控制
6.6 凭据处理
6.7 可审计性与撤销机制
实践案例：制裁筛查副驾驶的身份
练习
小结
附注
第 7 章：保护工具调用
学习目标
7.1 能力边界
7.2 允许列表、拒绝列表及默认策略
7.3 按影响范围对工具进行分类
7.4 参数验证
7.5 沙箱隔离危险工具
7.6 审批工作流
7.7 非对称双 LLM 护栏模式
7.8 幂等性与回滚
7.9 能力矩阵
7.10 智能体契约：作为代码的能力矩阵
7.11 驯服基础原语：智能体安全的软件工程范式
示例：保护放款工具
练习
摘要
注释
第三部分
评估、可观测性与可靠性
第 8 章：评估是新的测试套件
学习目标
8.1 评估的实际含义
8.2 构建回归测试集
8.3 LLM-as-judge：何时有效，何时失效
8.4 人工审查
8.5 作为发布控制的回归门禁
8.6 评分指标
8.7 评估集生命周期
示例：制裁筛查副驾驶的基础评估集
练习
摘要
注释
第 9 章：智能体的可观测性
学习目标
9.1 追踪作为可观测性的基本单元
9.2 最关键的字段
9.3 提示词与上下文作为可观测制品
9.4 工具调用的可观测性
9.5 追踪中的检索与记忆
9.6 作为质量信号的成本与延迟
9.7 漂移检测
9.8 重放
示例：制裁筛查事件的重放
练习
摘要
注释
第 10 章：智能体可靠性工程
学习目标
10.1 长提示词反模式
10.2 超时设置
10.3 重试机制
10.4 幂等性
10.5 状态机与持久化工作流
10.6 断路器
10.7 算法拒绝服务：成本作为安全攻击面
10.8 死信队列与人工升级
10.9 智能体应识别的失效模式
示例：作为状态机的制裁筛查智能体
练习
摘要
注释
第四部分
安全的 RAG 与企业知识管理
第 11 章：RAG 作为攻击面
学习目标
11.1 RAG 为何是攻击面
11.2 检索投毒
11.3 通过摄入进行的间接提示注入
11.4 引用幻觉
11.5 权限感知检索
11.6 通过检索进行数据窃取
11.7 你信任的语料库与你摄入的语料库
11.8 威胁模型模板
示例：面向客户知识库的 RAG
练习
摘要
注释
第 12 章：生产级 RAG 架构
第 13 章：知识治理
第五部分
第 14 章：专业团队中的编码智能体
第 15 章：AI 编码的安全边界
第 16 章：从随性编码到受治理的交付
第六部分
第17章：智能体部署模式
第18章：AI智能体的代码化策略
第19章：AI系统的事故响应
第20章：持续AgentSecOps：将构建时与运行时安全视为统一架构
第21章：生产就绪检查清单
试读节选
企业级AI智能体正从演示走向触及代码、数据、工具、工单、文档、API 和客户运营的工作流。这改变了安全问题的性质。旧有的审查提示词、记录聊天机器人会话以及编写可接受使用政策的模式已不再够用。
