API 全生命周期托管服务
很多联网问答Demo的实现都很直接:收到问题,调用一次搜索接口,把摘要塞进大模型,然后要求模型回答。
《micro-one-api 拆解》第 25 篇 代码基线:develop(v0.26.x)
网关的历史,几乎就是"被管理对象"的变迁史。负载均衡管的是连接,API 网关管的是请求,服务网格管的是服务之间的调用。到了大模型时代,被管理的对象又变了一次:一...
真正选型时,不能只比较单次调用价格。对AI Agent更重要的是:搜索结果是否相关、来源是否可靠、正文是否完整、能否控制时间与域名,以及完成一次有效任务的总成本...
《micro-one-api 拆解》第 24 篇 代码基线:develop(v0.26.x)
网关治理四篇到此收官:限流守容量、指标看状态、熔断降级保体验、配置治理管住变更。四件事串起来,就是一个 API 网关从「能跑」到「可运营」的完整路径。系列下一站...
《micro-one-api 拆解》第 23 篇 代码基线:develop(v0.26.x)
工具定义通常是整个 Agent 里最不被重视的一环——它看起来只是一段 JSON,写完就丢进请求里。但它其实是模型与外部系统之间唯一的契约,契约一出问题,表现会...
上篇聊了限流的三层设计(单机、分布式、入口),有个问题被留到了今天:限流上线只是起点,出了事「到底是谁被限了、为什么被限」答不上来,限流就只是一颗随时会被挑战的...
《micro-one-api 拆解》第 22 篇 代码基线:develop(v0.26.x)
《micro-one-api 拆解》第 21 篇 代码基线:develop(v0.26.x)
《micro-one-api 拆解》第 20 篇 代码基线:develop(v0.26.x)