像智能体一样思考：智能不是孤岛，它总要打电话#第三章

第三章 智能不是孤岛，它总要打电话

写给：在调 API和接RAG的人

API（Application Programming Interface，应用程序编程接口）

RAG（Retrieval-Augmented Generation，检索增强生成 —— 给大模型外挂一个资料库，让它回答时先去查再生成）

做 agent 久了，你会养成一种职业病：

看每个 demo（演示样例）都先问"它调了什么工具"。

我不是说这是个坏毛病。

恰恰相反，这是这个行当里最值钱的直觉之一。

我见过太多项目，开局就把模型当全能选手。

GPT-5.5 接进来，prompt（提示词）调一调，发现它算不准三位数乘法。

换个 Claude 5，发现它不知道今天是哪一天。

再换个，据说代码强一点，结果让它查公司内部知识库，它开始编 ——

编得很有礼貌，编得很自信，编得让人想把电脑扔出窗外。

然后你坐下来，给它接计算器、查日历、连数据库。

接完发现，真正难的是教它什么时候该用工具。

给它十样工具，它要么一个都不用，要么把十样全用一遍。

"该不该查"这件事本身就是一个判断，模型得自己长出来。

这一章想聊的就是这件事：

工具调用（tool calling，模型主动调用外部 API 或函数来完成任务）真正的意义在于承认一个老事实：

智能从来不是孤立的。

一个会打电话的助手，比一个记住全部电话号码的助手有用得多。

下面四节，是我在论文里挑出来支持这个判断的四条线索。

9 全记住不如会打电话

好模型不必像百科全书，像一个会找人的助手就够了。

承认智能从来不是孤立的，比给模型外挂能力重要得多。

2021 年我在蚂蚁集团做个性化推荐那阵子，我带的算法团队跟工程团队为一件小事吵了将近一周：

"要不要把 1 亿用户的全量画像塞进模型上下文"

算法同学的主张很硬核：

标签越多越准，反正 GPU 装得下。

工程同学只问一句：

"塞得下不等于跑得动，1 亿用户每人 200 字段，每秒 8 万次推荐请求，你打算让谁先死？"

最后是拆开了，模型只拿当次请求相关的 30 个字段，剩下 170 个交给外部特征库，模型要的时候再"打电话"去问。

线上 QPS 涨了 3 倍，我才真正理解"全记住不如会打电话"是工程常识。

你不会因为雇了一个百科全书式的助手就高枕无忧：

他背所有的菜名，但你问"附近哪家中午不排队、适合商务宴请"，他答不上来。

它有知识，没判断力。

真正有用的助手是知道什么时候该打电话问人、该查哪个来源、该信哪条信息的。

做过 agent 系统的人会发现，Intelligence and Knowledgeability（研究"智能和知识到底是不是一回事"的论文）描述的那个解耦特别扎心：

智能（解决问题能力）和知识渊博度（领域信息量）

原本就是两件事。

模型可以很博学但很笨，也可以很聪明但一无所知。

VR（Virtual Reality，虚拟现实）实验里最耐人寻味的是低智能+高知识的组合：

用户一开始会因为晕轮效应（halo effect，因为某一个优点就推断其他方面也优秀）容忍它的笨，前提是你先得让人信你。

一旦信任破裂，再多知识也救不回来。

对工程上的教训是反直觉的：别堆知识。

堆得越多，用户越觉得你"像个机器"，而不是"像个帮手"。

模型背下整个 Wikipedia（维基百科，全球最大的免费在线百科全书）没什么了不起：

它得知道这句话不该自己答、该去问谁，这才算真本事。

ClearFairy（研究"让 AI 学会记录专家推理过程"的论文）给了我另一种思路：

让 agent 学会的不是"专家知道什么"，而是专家在回答前会问什么。

系统把这些 How+Why（"怎么做"加上"为什么这么做"）的推理步骤注入 agent，它输出的就不再是"统计生成"的文本，而是带推理链条的回答。

85% 的 AI 推断被用户直接接受，是因为用户看懂了它怎么得出答案的，不是结果更准。

做过 RAG 的人会更懂这件事：

用户不接受"黑盒答案"，用户接受有来路的答案。

让 agent 把判断过程摊开，比让它背更多知识有效得多。

品味注记：好 agent 像会找人的助手，不是图书馆，是电话通讯录。图书馆告诉你所有答案，电话通讯录告诉你找谁问。

工具调用的剖面

10 远洋贸易比百科全书更像智能

十九世纪的商人拥有航线、账本、信用、代理人和及时回来的消息。

他不需要知道所有商品的价格，但知道跟谁打听最快。

百科全书式的商人知道所有商品的价格、所有港口的位置、所有航线的时间表。

远洋贸易式的商人不知道，但他知道跟谁打听最快、什么时候该信谁、怎么算一笔账的风险和回报。

前者是数据库，后者是判断力。

两种商人坐在同一张桌子前谈判，结果会非常不一样。

我每次看到有人给 agent 灌几百万 token（模型处理文本的最小单位，可以理解成"一个词或半个汉字"的颗粒度）的上下文，都会想到那个百科全书式商人。

模型当然能装下，但装下不等于能用。

装下一座图书馆，结果你问它一个跨页问题，它开始胡编。

错在把"装得下"当成"用得好"。

真正的能力是把判断力做出来：知道该向谁询问、调用什么工具、相信哪条回报。

这件事工具调用最复杂，也最像在做工程：

什么时候调用、调用什么、信到什么程度，都要靠判断。

一个只知道 API 列表的 agent 和一个有判断力的 agent，差别就在边界感上。

From Conversation to Human-AI Common Ground（研究"人与 AI 在多轮对话中如何建立共识"的论文）揭示了一个让做多轮 agent 的人都该警觉的现象：

对齐质量在大约 15 轮对话之后趋于平稳，再往后收益递减。

原因是上下文累积到一定规模，"基础"变得太大，谁也撑不住内聚性。

更有意思的是工程细节：

某些语言标记（"你是说……？""所以你的意思是……"）能提高成功率；

agent 的"偶发性响应"（先于用户当前输入引用之前对话内容），能让对齐效率加速 40%

说回做 agent 的事：

好的 agent 知道什么时候该重新初始化上下文，而不是无限堆叠。

15 轮是个软上限，你可以撞过去，但越撞越亏。

品味注记：会打电话的助手不需要知道所有答案，只需要知道什么时候该打给谁。

航线分三层

11 外挂大脑与判断力的奢侈

知识可以外包，判断不行。

真正有用的外部大脑，不替你记住一切，而是在正确时刻把正确材料递到你手边。

图书馆再大，你找不到要用的那一页，等于没有。

好的检索系统，是在你问出问题之前就知道你可能需要什么，然后把材料送到手边。

做过 RAG（Retrieval-Augmented Generation，检索增强生成）的人大概都被问过同一个问题：

用户要的是不是"答得对"？

Forage（研究"如何帮用户把零散资料合成观点"的论文，曾获 CHI 2025 最佳论文奖）给了个答案：

用户最想要的不是查资料（27%），是帮他们把资料合成成观点（36%）。

人要的不是信息，是合成新观点。

你做的是 to-C（to Consumer，面向消费者）搜索产品可能觉得理所当然，但你做的是 to-B（to Business，面向企业）知识助手，这件事会重塑你的产品形态：

你卖的不是"找得到"，是"想得清"。

Forage 里还有两招对工程特别有借鉴价值。

一招叫引用溯源（把 AI 的分析链接回原始资料出处）：

agent 的分析要能链接回原始对话出处，专业人士才敢用。

另一招叫多视角生成对抗（让 AI 用不同身份滤镜分析同一批数据，迫使研究者发现自己因立场而忽略的声音）：

让 agent 用不同的身份滤镜分析同一批数据，迫使研究者发现自己因立场而忽略的声音。

第二招在多 agent 系统里特别好用，本质上是用角色多样性替代算力多样性。

Social-RAG（研究"群聊场景下的检索增强生成"的论文，曾获 CHI 2025 最佳论文奖）把这个思路从个人拓展到团队：

传统 RAG 只检索"事实"，Social-RAG 还检索"谁在群里对什么感兴趣、大家以前讨论过什么"。

三个发现对做群聊助手的人来说几乎是必读：

1/ 隐性反馈（表情符号）优于显性问卷；

2/ 社交解释比纯内容更有信服力；

AI 干预频率必须匹配群组社交节奏：

在低活跃群组里，AI 刷屏推送会挤掉人类互动，群组变成单向的信息订阅源。

Decision-Theoretic Representation（研究"用决策论为多 agent 系统建模"的论文，CHI 2026 最佳论文奖）给了形式化框架：

把 agent 辅助建模成两主体顺序决策问题（POSG，部分可观测随机博弈，多人在不完全信息下做决策的数学框架）。

但作者们很诚实：不要总想着解完美 POSG，那是个 NEXP-hard（一种计算复杂度等级，意味着随着问题规模变大，求解时间会爆炸性增长）的问题。

实用的做法是固定用户策略，把问题降维成可解的 MDP（Markov Decision Process，马尔可夫决策过程，描述"在不确定环境下怎么选下一步"的标准框架）/POMDP（Partially Observable MDP，部分可观测的马尔可夫决策过程）。

外部大脑的"按需加载"可以形式化，但求解时要接受"差不多对"。

品味注记：外挂大脑是奢侈品，但奢侈品不都值得追。真正值钱的不是记住一切的大脑，而是在正确时刻把东西递到你手边的大脑。

外挂大脑分层

12 差不多对，为什么更接近现实

现实世界很少给精确匹配题，更多时候只问方向是否足够接近。

判断、文化和信任本来就是灰度的。

我见过最离谱的事，是有人要求 agent 每次回答都"严格基于来源"。

听起来很美，做起来不可能：

真实世界的知识本来就不精确，你要求严格基于，等于要求 agent 在所有问题面前装糊涂。

Semantic Networks（研究"语义网络结构如何影响原创性"的论文，CHI 2026 最佳论文奖）揭了一个我特别认同的发现：