从 0 到 1 设计 AI Agent

AI Agent 的真正的能力是执行。

从 0 到 1 设计 AI Agent 是一个系统工程。

其复杂度来自必须控制好 状态 + 上下文。

其本质是围绕一个具体场景，构建 感知-决策-执行 的闭环系统，通过分层架构实现可扩展性，再用数据驱动持续优化。

这是一个六步闭环：

问题定义 → 能力拆解 → 架构设计 → 关键细节 → MVP验证 → 持续优化

问题定义

这是最关键的起点。

一定要先收敛，不要一上来就贪多求全，否则会死得很难看。

必须锁定一个切口很小、非常具体、闭环清晰的场景。

例如，先做自动处理客服工单的 agent ，而不是什么都能做的智能客服。

原则是问题越聚焦，后续设计越稳定。

场景一旦模糊，架构一定失控。

能力拆解

感知 → 决策 → 执行 = Agent 最小闭环

1. 感知

理解用户输入，提取意图、实体、上下文信息。

2. 决策

简单任务用 Workflow。

复杂任务可以基于 ReAct 模式进行动态推理与规划。

3. 执行

常用的工具调用能力有搜索、数据库查询、文件生成、API调用等。

架构设计

这是工程核心，一般用典型四层结构。

分层的意义是解耦、易扩展、可迭代。

1. 模型层

大模型是推理核心，在成本允许的情况下，尽量用幻觉最小、命令遵从性最好、执行力最强的大模型，如 claude opus 4.6。

2. 工具层

封装外部能力，如 API 、数据库查询 、 搜索、MCP 等。

3. 记忆层

• 短期记忆：对话上下文（Session Memory）
• 长期记忆：向量数据库（知识库/RAG）

4. 编排层

控制任务执行流程，管理工具调用顺序与策略。

关键细节

这是决定是否能上线的关键，是从能跑到能用的分水岭。

1. 上下文控制

控制好模型看什么，不要什么都给，会出现上下文腐败现象。

• 裁剪无关信息
• 历史摘要（Summary）
• 按需检索（RAG）

2. 状态管理

任务是有状态的，模型没有。

推荐用显式状态机：

INIT → UNDERSTAND → PLAN → EXECUTE → VERIFY → DONE

3. 工具调用策略

• 静态规则（稳定）
• LLM决策（灵活）
• 混合策略（推荐）

4. 输出约束

• JSON格式
• Schema校验
• 自动修复或重试

5. 容错与回退机制

• 工具失败重试
• 计划失败重做
• 人工接管入口（必须有）

6. 成本控制

• 模型分级（大小模型组合）
• Token控制
• 工具替代模型

7. 评估体系

• 成功率
• 工具调用准确率
• 平均轮次
• 单任务成本

8. 安全与边界

• Prompt Injection 防护
• 工具权限控制
• 输出合规审查

9. 可观测性

• 全链路日志（trace）
• 决策过程记录
• 错误分析

10. 扩展能力

• 并发控制
• 异步执行
• 队列调度

MVP验证

不要一开始做复杂系统，容易崩，先跑通一个最小的闭环。

关注指标有：

• 任务完成率
• 平均对话轮次
• 工具调用准确率
• 用户满意度

优化方法有Prompt优化、工具结构调整、增加规则约束等。

持续优化

Agent 的价值来自持续进化，要基于真实数据进行迭代。

上线以后收集真实数据，尤其失败案例。

然后分析问题原因，定向优化系统。

优化方法有 Prompt 迭代、规则更新、工具扩展、模型微调、记忆优化等。