当你听说"在单张 4GB 显卡上跑 70B 模型"时,第一反应多半是量化——4bit、8bit,把权重压扁换显存。但 GitHub 上 3.7 万 star 的...
我是老李,做平台侧的模型接入与研发效率。过去两年被问得最多的一句话是:新模型出来了,我们什么时候换。换模型从来不缺理由,缺的是能签字的那条证据。
我是老李,在一家做多租户客服 SaaS 的公司负责 Agent 平台。所谓多租户,就是同一套服务同时伺候几十个商家,数据靠 tenant_id 隔开,谁也不能碰...
我是老李,做交易系统的后端架构。订单详情页是整条链路里被读得最多的接口,它的实现曾经很朴素:按订单号直连数据库主键查询,简单、可解释、慢得清楚。
“这份资料已经处理了。”在项目群里,这句话通常会让人放心;在一个由Agent参与的业务流程里,它几乎没有可执行含义。它可能表示资料被读过、候选信息被抽取、人工已...
富通科技 | 生态合作中心总经理 (已认证)
行业普遍共识,过去十年企业数字化的主线是数据驱动:建设业务系统、搭建大数据平台、汇集分散数据,再通过报表、BI 做业务分析。这套体系解决了数据采集、存储、统计的...
我是老李,做过行业软件,也踩过「功能被抄平」的坑。这些年我最怕的不是竞品比我强,而是竞品和我长得一样,还比我便宜。
我最早用 LangChain 写 Agent 的时候,代码长这样:一个 while True 循环,里面塞一堆 if else,判断模型返回的下...
我是老李,在一家做行业 SaaS 的公司负责架构。最近我们在处理一个遗留系统,客户的原厂退出,源码只剩部分备份,业务却一天不能停。任务是让系统继续稳定运行,并支...
我是老李,做端侧与设备侧软件十几年,最近几年带的项目大多绕不开别人的程序:协议互通、上位机替代、老旧设备兼容。这类项目有个共同点——拿不到源码,只能拿到一个安装...
大模型产业演进的脉络正在逐步清晰:从通用基础模型起步,向下沉淀行业模型,再收敛到产品领域模型,而产业的下一个重要里程碑,将是公司模型(企业专属大模型)。
OpenLIT 是一个开源的代理框架工程平台。它为团队提供基于 OpenTelemetry 的原生追踪、评估、防护机制、提示和上下文管理,以及针对 AI 代理和...
9 月 13 日下午,杭州城市阳台。聚精会神听分享,圆桌接近1小时才散。四位讲师有个共同点:他们的 Agent 不是跑在 PPT 里,是跑在生产环境里,踩的坑都...
一句话概括:一个跑在浏览器里的实时地球情报控制台——裸 Vanilla JS + CesiumJS + Vite 堆出来,20 类实时图层、17 类无需任何 A...
我是老李,带的是一支 9 人团队,负责一套面向商家的结算中心:订单入账、账单生成、对账和收款回调,四块服务加一条发布流水线。
仓库主管说,批次 B-417 还有 1000kg;计划员说现在只能排 900kg;质检说其中 80kg 仍在待检;销售又说有 20kg 留样,不能动。四个人都在...
我是老李,做了几年订单履约和对账系统,最近两年主要在做 Agent 编排落地。团队里有过一个共识:只要把流程画成一张图,心里就踏实了。因为图上有节点、有边、有状...
我是老李,做企业级系统的架构与落地。上个月我参与了一个客服与工单平台的技术复盘,会议室里挂着两组数字:一组是“AI已接入场景数”和“每日AI调用量”,曲线很漂亮...
我是老李,带一个面向企业客户的智能平台,网关后面挂着三类调用:客服问答、长链路工单、代码修复。这三类流量共用一套提示模板、一套工具定义、一套重试策略,历史上只换...
我是老李,在一家供应链 SaaS 公司做平台架构。我们有一块“渠道对账”业务:客户把账单差异提上来,运营到供应商的旧后台里逐条核对、标注、发起差异处理。那个后台...