第 22 章:企业 Agent 平台架构
本章导读
- 核心问题:如何把单个 Agent 能力建设成企业平台。
- 关键词:Agent Platform、Marketplace、Security、Observability、Evaluation、Governance
- 学习产出:把 CI 失败分析作为企业 Agent 平台 MVP,验证核心平台能力。
1. 本章要解决什么问题
前面 21 章讨论了 Agent 工程的各个模块。
这一章把它们组合起来,回答企业最关心的问题:
如何建设一个可持续演进的企业级 Agent 平台?
企业 Agent 平台不是一个聊天机器人。
也不是一个简单的模型 API 网关。
它应该是一套完整工程平台,支撑多个业务 Agent:
- 研发 Agent;
- 运维 Agent;
- 数据分析 Agent;
- 客服 Agent;
- 合规 Agent;
- 安全审计 Agent;
- 知识管理 Agent。
平台需要提供统一能力:
Runtime
Context
Tool
Skill
Memory
MCP
Security
Observability
Cost Control
Governance
本章核心观点是:
企业 Agent 平台不是单个 Agent,而是一组可复用、可治理、可扩展的 Agent 基础设施。
2. 企业 Agent 平台的目标
2.1 降低重复建设
如果每个团队都自己实现:
- 工具注册;
- 上下文拼接;
- 记忆系统;
- 权限审计;
- MCP 接入;
- Agent Loop;
- 日志追踪;
会导致大量重复和不一致。
平台应提供公共底座。
2.2 提高安全与合规
企业 Agent 会访问内部代码、文档、数据库、日志和客户数据。
必须统一管理:
- 身份认证;
- 权限;
- 审计;
- 数据脱敏;
- 工具风险;
- 人工审批;
- 记忆删除;
- 租户隔离。
2.3 提高复用
Tool、Skill、MCP Connector、Context Provider 都应该复用。
例如:
Git Tool 可以被 Coding Agent、Review Agent、Release Agent 复用。
Jira MCP 可以被研发、客服、项目管理 Agent 复用。
Spring Boot Test Skill 可以被多个 Java 项目复用。
2.4 支持可观测性
企业需要知道 Agent 做了什么、为什么做、成本多少、是否成功。
没有可观测性,Agent 无法生产化。
3. 平台分层架构
推荐分层:
User Interface Layer
API Gateway Layer
Agent Runtime Layer
Context Layer
Tool Layer
Skill Layer
Memory Layer
MCP Integration Layer
State & Event Layer
Security & Policy Layer
Observability Layer
Cost Management Layer
3.1 User Interface Layer
入口可以是:
- Web Chat;
- IDE 插件;
- CLI;
- Slack / Teams;
- CI/CD;
- 内部系统按钮;
- API。
不同入口提交统一 AgentTask。
3.2 API Gateway Layer
负责:
- 认证;
- 限流;
- 路由;
- 请求校验;
- 多租户;
- 审计入口。
3.3 Agent Runtime Layer
负责:
- Task;
- Session;
- Harness;
- Scheduler;
- Event;
- Resume;
- Stop Condition。
这是平台核心。
3.4 Context Layer
负责:
- ContextProvider;
- Context Selection;
- Context Compression;
- Context Isolation;
- Context Rendering。
3.5 Tool Layer
负责:
- ToolRegistry;
- ToolExecutor;
- Tool Orchestration;
- Tool Policy;
- Tool Audit。
3.6 Skill Layer
负责:
- SkillRegistry;
- Skill Selection;
- Skill Loading;
- Skill Versioning;
- Skill Evaluation。
3.7 Memory Layer
负责:
- Memory Store;
- Memory Retrieval;
- Memory Governance;
- Memory Audit;
- Memory Delete。
3.8 MCP Integration Layer
负责连接:
- Git;
- Jira;
- Confluence;
- CI/CD;
- Database;
- Monitoring;
- Logging;
- Internal APIs。
3.9 Security & Policy Layer
贯穿所有层。
负责:
- 用户权限;
- 工具权限;
- 数据权限;
- Secret 防护;
- Human approval;
- 风险分级;
- 审计。
3.10 Observability Layer
负责:
- Trace;
- Logs;
- Metrics;
- Event Replay;
- Cost Dashboard;
- Failure Analysis;
- Evaluation Reports。
4. 平台核心对象
企业 Agent 平台至少应定义这些核心对象:
AgentTask
AgentSession
AgentEvent
ContextChunk
ToolDefinition
Skill
MemoryRecord
McpServer
Policy
Artifact
Evaluation
这些对象形成平台通用语言。
5. Agent Marketplace:Tool 与 Skill 市场
企业平台应提供内部市场。
5.1 Tool Marketplace
提供可复用工具:
- Git 工具;
- Jira 工具;
- CI 工具;
- DB 查询工具;
- 文档检索工具;
- 日志分析工具。
每个工具应有:
- 文档;
- Schema;
- 权限;
- 风险等级;
- 使用示例;
- 维护人。
5.2 Skill Marketplace
提供可复用 Skill:
- Spring Boot 单元测试;
- PR Review;
- CI 失败分析;
- 安全审计;
- API 文档生成;
- 故障复盘。
每个 Skill 应有版本和评估集。
6. 安全与治理
6.1 权限模型
权限至少包括:
谁可以使用哪个 Agent?
Agent 可以访问哪些项目?
Agent 可以调用哪些工具?
Agent 可以读取哪些数据?
Agent 是否可以写入?
写入是否需要审批?
6.2 数据安全
需要处理:
- PII;
- 密钥;
- 客户数据;
- 生产日志;
- 内部代码;
- 机密文档。
6.3 审计
所有关键行为都应审计:
- 用户提交任务;
- 上下文注入;
- 工具调用;
- 数据访问;
- 写操作;
- Memory 写入;
- 权限拒绝。
6.4 Human-in-the-loop
高风险操作必须人工确认:
- 修改代码;
- 创建 PR;
- 修改数据库;
- 部署;
- 发送外部消息;
- 访问生产数据。
7. 可观测性与评估
生产 Agent 需要持续评估。
指标包括:
- 任务成功率;
- 平均执行时间;
- token 成本;
- 工具失败率;
- 恢复次数;
- 人工介入率;
- 用户满意度;
- 安全事件;
- 上下文命中率;
- Memory 误用率。
还需要离线评估集:
CI 失败分析样例
PR Review 样例
单元测试生成样例
故障排查样例
8. 架构图 / 流程图
8.1 研发 Agent 平台
8.2 治理闭环
9. Java / Spring Boot 平台模块
推荐模块:
agent-api
agent-core
agent-runtime
agent-context
agent-tool
agent-skill
agent-memory
agent-mcp
agent-security
agent-observability
agent-evaluation
agent-admin
10. 建设路线
10.1 MVP 阶段
建议从只读研发 Agent 开始:
CI 失败分析 Agent
原因:
- 场景清晰;
- 风险较低;
- 需要 Context、Tool、Harness;
- 结果可验证;
- 业务价值明显。
10.2 第二阶段
加入:
- PR Review Agent;
- 单元测试生成 Agent;
- Project Knowledge;
- Skill Registry;
- Memory。
10.3 第三阶段
加入写操作:
- 自动补测试;
- 自动修复简单 lint;
- 创建 PR;
- Human approval。
10.4 第四阶段
平台化:
- 多租户;
- Tool Marketplace;
- Skill Marketplace;
- MCP 管理;
- 成本中心;
- 评估平台。
11. 常见误区
11.1 每个团队各自造 Agent
会导致工具、权限、上下文和审计混乱。
11.2 先做酷炫 Demo,后补安全
安全和权限必须前置。
11.3 只封装模型 API
模型 API 封装不是 Agent 平台。
11.4 没有评估体系
没有评估就无法持续改进 Agent。
11.5 忽略成本管理
Agent 多轮调用、工具调用和长任务会带来显著成本。
12. 贯穿案例:CI 失败分析 Agent
CI 失败分析 Agent 是企业 Agent 平台的推荐 MVP。
它可以最小化地验证平台核心能力:
| 平台能力 | CI 失败分析中的体现 |
|---|---|
| Runtime | 创建任务、会话和事件流 |
| Context Layer | 聚合 CI 摘要、Git Diff、AGENTS.md、Memory |
| Tool Layer | 调用只读 CI、Git、代码搜索工具 |
| Skill Layer | 加载 ci-failure-analysis Skill |
| Memory Layer | 召回历史类似失败,沉淀项目经验 |
| MCP Layer | 接入 CI、Git、Jira |
| Security | 限制只读权限,禁止自动修改 |
| Observability | 记录工具调用、上下文选择和报告质量 |
选择它作为 MVP 的原因是:风险低、价值明确、可验证、覆盖面足够广。
平台成熟后,可以从只读分析扩展到自动生成修复建议、创建 PR 评论、运行局部测试,最后再考虑受控自动修复。
13. 本章小结
本章讨论企业 Agent 平台架构。
核心结论:
- 企业 Agent 平台是一套基础设施,不是单个聊天机器人。
- Runtime、Context、Tool、Skill、Memory、MCP 是平台核心层。
- 安全、权限、审计、成本和可观测性必须前置设计。
- Tool 和 Skill 应形成内部市场,提高复用。
- 建议从低风险、高价值、可验证的研发场景开始建设。
一句话总结:
企业级 Agent 的竞争力,不在于某个 Prompt,而在于能否建设一套可复用、可治理、可演进的平台能力。
14. 实践任务
任务 1:设计企业 Agent 平台 MVP
只保留 5 个模块,说明为什么。
任务 2:设计权限模型
定义用户、项目、工具、数据四类权限。
任务 3:设计评估集
为 CI 失败分析 Agent 准备 20 个测试样例。
任务 4:平台路线图
为你的团队设计 3 个月、6 个月、12 个月建设计划。