

2023年,如果你说
我们的产品接入了RAG,投资人的眼睛会亮起来。 那时候RAG是明星,是让AI从一本正经地胡说八道走向有据可查的那把钥匙。 2026年,你再说同样的话,对面大概率会露出困惑的表情:这不是基建吗,有什么好讲的? 这种叙事焦点的转移,藏着比RAG过时了更有意思的东西。

回头看RAG这几年,表面上是一路升级打怪:从Naive到Advanced,再到Modular、Agentic,名字一个比一个高级,论文一篇比一篇厚。
但如果你把这条线拉直了看,会发现一个反直觉的事实——它不是在前进,是在一边修补一边后撤。
故事得从源头说起。

2020年Lewis那篇原始论文里的RAG,其实是个挺优雅的设计:检索器和生成器一起训练,检索的目标是对生成有没有帮助,而不是单纯比谁的向量更接近。
这是一个理论上自洽的东西。
可问题是,这个版本几乎一出生就被工业界抛弃了。太贵,太难落地。
于是大家把联合训练这块直接砍掉,检索器用通用的embedding模型,生成器用通用的大模型,中间拿prompt一拼就上线了。
这里藏着一个很多人没意识到的细节:我们日常说的RAG,从它被广泛叫做RAG的那一刻起,就已经是原始设计的阉割版了。
那个真正意义上的RAG,从来没有大规模存在过。后来所有的查询改写、重排序、微调embedding,本质上都是在拿工程手段,一点点把当年放弃掉的那部分能力补回来。
更扎心的是第二代爆发期那个被刻意忽略的问题。
2023年大家都在惊呼RAG效果好,但很少有人追问:这效果到底是RAG带来的,还是大模型自己变强带来的?
答案偏向后者。
那一代的GPT-3.5、GPT-4,推理能力已经强到可以从一堆相关度只有六成的烂检索结果里,硬是打捞出一个像模像样的答案。
换句话说,模型在帮检索擦屁股。你检索得再差,它都能给你圆回来。结果就是很多团队产生了误判,以为是架构可靠,兴冲冲铺到生产环境,等遇到模型也救不回来的边缘case,整个系统直接崩给你看。
到了第三代Advanced阶段,技术是真的繁荣,查询改写、HyDE、混合检索、重排序,一个接一个。
但你换个角度看,每一项新技术的出现,都是在给上一代某个具体失败写检讨书。查询改写说明用户的问法和文档的写法对不上,HyDE说明检索要的是答案相似而不是问题相似,混合检索说明纯向量会漏掉精确匹配。
这些补丁叠在一起,带来的不是RAG更强了,而是RAG更复杂了。
原来一个干净的检索加生成,硬生生变成六七个环节的流水线,每一环都能出错,出了错你还很难定位是哪一环。准确率可能涨了百分之十,维护成本翻了五倍。所以那阵子不少团队做了个安静的决定:退回最朴素的版本,能不上复杂就不上。
第四代模块化更尴尬。
想法很美,不同问题走不同检索策略。
但它有个绕不开的死循环:你得先判断问题属于哪一类,才能决定走哪条路,而判断问题的性质本身就需要知识——这恰恰是RAG想提供的东西。
学术上很热闹,工业上几乎没人真落地,因为养一套多策略加一个靠谱路由的成本,大多数公司扛不住。
到了第五代Agentic,名字得品一品。
Agentic是主词,RAG是修饰语。Agent才是主角,RAG只是它工具箱里的一件。检索从必经流程,变成了Agent的一个可选动作——要不要查、查什么、够不够、再查一次吗,全由Agent自己拿主意。
你看,这条线走到这,逻辑已经很清楚了。
每一代所谓的进步,都在悄悄拆掉上一代立足的前提。这不是升级,是自我否定。
那GraphRAG和多模态RAG呢?
它们其实是两条旁支,但同样掉进了一个坑里。
GraphRAG是所有变体里最诚实的,它承认向量相似度不等于知识相关,知识是有关系结构的。这份诚实值得尊重。可它用对的方式,回到了一个曾经失败过的方案——知识图谱。
当年图谱被诟病的原因是世界太乱、太动态、太模糊,没法被显式结构装下,这些原因今天一条都没变。变的只是建图工具从人工标注换成了大模型自动抽取,更快了,但不会更准,模型自己的幻觉还会顺着图结构一路放大。
成本更是劝退,很多团队建一次图的钱,够拿朴素RAG跑一年API了,文档一更新还得重建。
多模态RAG看着最有生命力,毕竟世界不只有文字。
但真实情况是,几乎所有生产级的多模态系统,最后都退化回了文本RAG。
流程绕一大圈,图片进来先做embedding检索,发现视觉相似根本不等于语义相关,只好用OCR、ASR、caption把它们全转成文本,再拿文本去跑RAG。
说到底,多模态只是个入口,文本才是真正的处理层。模态越复杂,感知上的相似和语义上的相关,裂缝拉得越大。

聊到这,你可能以为RAG变冷是因为长上下文、Agent、记忆系统这几个新玩意儿把它挤走了。这些确实在挤压它,但都还是表层。
长上下文是来釜底抽薪的。
窗口推到几百万token之后,很多场景里直接把整篇文档塞进去,比辛辛苦苦检索再拼接更简单也更准。
当然成本高、大海捞针的问题还在,但对中小规模的文档,RAG那个非用不可的理由确实打了折。
现在业界的共识也不是二选一,而是少量精准检索加长上下文深度推理的融合,只不过在这个融合里,RAG已经退到了后台。
Agentic架构则是把它降维成了一个工具调用。
以前RAG是主干,必须先检索才能生成;现在Agent自己说了算。你不会单独去讨论一把扳手,你讨论的是那个会修车的家伙。
记忆系统又补了一刀,2026年最值得关注的趋势是AI开始拥有持续记忆,用户画像、历史决策、知识状态一直在更新。
比起每次提问都重新检索一遍,这种方式高级太多,RAG那套查完就忘、忘了再查的循环,显得有点原始。
加上模型微调成本暴跌、知识蒸馏成熟、推理模型的逻辑能力越来越强,很多过去得查资料才能答的问题,现在模型直接推就推出来了。
知识不一定非得放外部库里,它可以直接长在权重上。
但这些加起来,还不是最根本的。
最根本的转变是:AI的核心范式,从问答切到了行动。
问答范式的逻辑是,你给我一个信息,我还你一个答案。
RAG在这套逻辑里完美得无可挑剔,检索加生成天经地义。可2025年以后,范式变成了,你给我一个目标,我自己决定怎么完成。
在这套新逻辑里,“检索相关知识”只是Agent几十个可选动作里的一个,而且常常不是最关键的那个。
系统真正需要的是判断力——什么时候该查、查什么、查够了没、查到的怎么用。
而判断力恰恰是RAG架构提供不了的,它只会老老实实把检索结果往prompt里塞。
说到底,RAG的哲学底色:模型是无知的,知识在外面,要用的时候取过来。模型当大脑,向量库当书架。
但现在的趋势指向了一个相反的方向——知识和推理本就不该被劈成两半。一个真正好用的AI,它的知识应该一部分长在权重里负责直觉和快速反应,一部分待在动态记忆里负责情境更新,还有一部分通过工具实时获取负责时效和事实。RAG只覆盖了最后一种,而且覆盖得不算好。
最后还有一层没人愿意明说的现实:钱转场了。
当年捧RAG的那批人,现在在捧Agent、捧Memory、捧新一代AI基础设施。
技术叙事的起落,很多时候不是技术自己在变,而是资本需要一个新故事来讲。
RAG的故事不是被讲完了,是它作为投资叙事的回报率已经见顶了。
别太迷信任何一个被资本和PPT捧起来的热词。
今天追Agent追Memory的人,三年后多半也会经历同样的剧情。
真正值得花心思的,从来不是哪个名词更性感,而是它到底解决了什么问题、又把什么问题悄悄藏进了地毯下面。
RAG留给行业最有价值的东西,可能不是它的技术本身,而是它这一整段从神坛到地基的旅程,给我们上的这一课。