首页
学习
活动
专区
圈层
工具
发布

#架构

【架构实战】LLM API网关:多模型路由与降级策略

紫风

本文是「架构实战·第二季」第六篇,AI 系列基础篇最后一篇。从这一篇开始,我们进入"用 LLM 一定会踩到的工程问题"——网关层。

000

【架构实战】Embedding模型选型:从开源到商业API的取舍

紫风

本文是「架构实战·第二季」第五篇。上一篇我们讲了向量库的选型,本篇讲另一核心组件——Embedding 模型。

000

架构演进视角:Cognition 开源 Agent Memory Repo 与知芽 Notebook Skill 基于引用存在性校验的 AI 记忆验证体系对比

用户6808650

2026年10月,Cognition 发布的 Agent Memory Repo 创新性地把 AI 的长期记忆做成了一个 git 仓库(以 MEMORY.md ...

000

网关系列(四):配置治理——从硬编码到声明式

码林拾遗

网关系列收尾篇。前三篇聊了限流、指标、熔断降级——都是运行时的能力。但决定一个网关好不好维护的,往往是另一个维度:配置怎么管。配置治理做不好,再强的运行时能力也...

000

Java 架构师:从写代码到定边界的能力跃迁

用户12339161

核心结论: Java 架构师的核心能力不是"会更多框架",而是能在业务不确定的前提下,用最小的约束成本划出系统边界。写代码解决的是"怎么实现",定架构解决的是"...

2900

【架构实战】向量数据库选型:Milvus、Weaviate、Qdrant深度对比

紫风

本文是「架构实战·第二季」第四篇。前面我们讲了 RAG 的整体架构,本篇深入 RAG 的核心组件——向量库,一次性把三个主流开源向量库讲清楚。

2700

【架构实战】RAG检索增强生成:企业知识库的工程实现

紫风

本文是「架构实战·第二季」第三篇。前面我们讲了 LLM 应用的整体架构和 Prompt 工程,本篇进入企业 LLM 应用最主流的落地形态——RAG(Retrie...

3610

【架构实战】Prompt工程:系统化提示词设计与调优方法论

紫风

本文是「架构实战·第二季」第二篇。上一篇我们讲了 LLM 应用的整体架构,这一篇聚焦其中最频繁被改动的组件——Prompt。

2300

【架构实战】大模型LLM应用架构:从Demo到生产环境的演进

紫风

本文是「架构实战·第二季」第一篇,承接第一季的 50 篇架构实战,从 AI 工程化的最基础问题开始:把一个 LLM Demo 变成一个能稳定对外服务的生产系统,...

4300

【架构实战】InnerSource:让代码在组织内自由流动

紫风

本文是「架构实战·第二季」第 99 篇。大组织最常见的困局:平台团队忙死,业务团队等死;同一个轮子三个团队各造一遍;想用别的团队的组件,提需求排期三个月。Inn...

2310

【架构实战】平台工程:DevOps 的下一站

紫风

本文是「架构实战·第二季」第 100 篇(第二季收官)。DevOps 说"谁构建谁运行",十年过去,现实是:让每个业务团队都精通 K8s、Terraform、可...

2900

限流上线之后:熔断与降级的决策链设计

码林拾遗

网关系列的第三篇。前两篇聊了限流(守住容量)和监控指标(看清状态),这篇聊故障传播链上的最后两道闸:熔断和降级。很多团队把这两个词混着用,实际上它们回答的是两个...

3500

本地生活平台搭建:改配置会不会牵动整站

光合同城

本地生活平台搭建扩到跑腿、团购后,运营最怕:改一项配送配置,外卖订单状态也跟着异常。根因常是配置与订单状态绑在同一张「万能表」或同一发布流程里,一改全站发版。县...

3800

临时方案如何平稳退出:AI参与权限平台灰度上线实战

张弘平

通过前几篇文章从2个不同的应用角度讲述了AI对嵌入应用交付的使用情况。其实用简单的方式讲就是:使用AI来写需求代码。这里面要有一个大前提:需求。需求是怎么来的?...

8930

单体、微服务、集群、高可用:把软件架构听明白

岁岁

“系统要做集群”“这个平台是微服务”“数据库已经主从了”——这些说法经常出现在同一场会议里,却在回答不同的问题。

9110

从产品级落地到架构内核:Agent 系统的分层解耦与最小内核实现

用户12339161

核心结论: 产品级 Agent 的竞争力不在模型,而在内核是否把状态、权限、编排、执行四件事解耦。产品层只负责交互与任务定义,编排层用显式状态图控制流转,执行层...

6910

【征文】从一张表到一整套系统:我一个人是怎么把想法长成产品的

用户12816708

我平时看盘,最缺的不是行情,是资金的方向感。涨跌幅能告诉你"发生了什么",却告诉不了你"钱是从哪儿来的、又去了哪儿"。

7610

机器人监控系统技术突破与未来挑战

共赢之路

机器人监控系统(Robotics Monitoring & Teleoperation System)是机器人从“单机自动化”迈向“大规模集群协同(Fleet ...

7810

工具层治理:Schema 版本、权限边界与破坏性操作的闸门

Archive

工具定义通常是整个 Agent 里最不被重视的一环——它看起来只是一段 JSON,写完就丢进请求里。但它其实是模型与外部系统之间唯一的契约,契约一出问题,表现会...

9110
领券