大模型能力突飞猛进,但真正落到企业业务里,大多数团队却卡在同一个难题上:没有算法团队,业务同学不会调模型,Token 成本和权限也没人管。AI 灵枢正是为破解这一困局而生——作为新一代企业智能体编排平台,它支持接入企业内部数据源与知识库,无需 AI 工程师,也无需新增团队,业务人员只需用自然语言描述需求,AI 便会自动生成完整的 Agent 应用即时使用,省去复杂的研发流程;同时提供私有化部署方案,确保数据安全可控。
关键词:#AI #Agent编排 #RAG #私有化部署 #企业AI转型
产品说明:
企业想用 AI,但落地时普遍被三件事卡住:
难题 | AI 灵枢的解法 |
|---|---|
不会建 | 可视化编排 / 自然语言即可构建,无需算法团队 |
不会用 | 大模型能力封装为开箱即用的业务应用 |
不会管 | 内置调度执行、成本核算、权限管控 |

过去两年,大模型的能力突飞猛进,但真正要把 AI 落到企业业务里,大多数团队卡在三个地方:不会建(没有算法团队)、不会用(业务同学不懂怎么调模型)、不会管(谁来统计 Token 成本、谁来管控权限)。
灵枢,定位很直接——企业级 AI 智能体编排平台。它要解决的,就是让企业"零代码接入 AI、快速落地业务场景",并且支持完全私有化部署。
这篇文章从工程视角,把它的核心能力、技术栈和部署方案拆开讲清楚。
平台后端是 Go + Gin 实现的微服务架构,按职责拆成 5 个服务,前端用 Next.js 16 + React 19 统一入口,通过 rewrites 代理到各后端:
服务 | 职责 |
|---|---|
Auth Service | 认证(JWT 双 Token + RSA 加密)、用户/角色/权限/租户管理 |
Agent Service | Agent、拓扑编排、统计执行、调度 Worker、模型配置、AI 检索 |
Execution Service | 调度管理(CronScheduler)、执行记录、通知通道/规则 |
Knowledge Service | 知识库、文档上传/分块/向量化、向量检索 |
Skill Service | 技能 、分类/类型管理、链接注册、调用记录 |
前端(Next.js) | 统一入口,代理各后端服务 |
配套基础设施:

这是平台的构建核心。Agent 编排器提供可视化拖拽式 DAG(有向无环图)拓扑编辑器,支持 10 种节点类型:
节点 | 说明 |
|---|---|
Supervisor | 全局协调者,流程控制与子任务分配 |
ReAct | 推理-行动循环,动态决策下一步 |
DAG | 按预定义流程顺序执行 |
Parallel | 并行执行多个子任务后汇总 |
HITL | 人工审批,暂停等待人工确认 |
RAG | 知识库检索增强 |
WebSearch | 联网搜索 |
MCP | 连接外部 MCP Server 工具 |
Condition | 条件分支 |
Loop | 循环执行 |
此外还有通知节点与数据库查询节点两类辅助节点,可对接 PostgreSQL / MySQL 执行 SQL。
编排完成后,每个应用关联一个系统提示词,支持自动生成 / AI 优化 / 手动编写三种方式。
智能体编排引擎拓扑(自定义应用拓扑)

更低门槛的入口是 AI 工厂。用户用自然语言描述业务目标即可,例如:
"统计每天订单数据,按类别分组,生成趋势图表,并推送到管理群"
平台会做关键词分析(订单/统计 → 数据库查询节点,推送/通知 → 通知节点),再用 LLM 编译生成差异化拓扑;LLM 失败时降级为规则编译。预览确认后即可生成可运行的 Agent。
知识库模块提供企业文档全生命周期管理:创建 → 上传 → 分块 → 向量化 → 检索。
检索时,查询文本经 Embedding 生成向量,Milvus 相似度检索返回 top_k 分块,并标注来源文档与相关度分数。
首页仪表盘的全局 AI 检索,融合三种数据来源生成综合报告:

调度管理支持三种触发方式:
0 9 \* 每天 9:00POST /api/v1/webhook/trigger/{token} 外部触发执行监控对每次执行保留完整快照(指标、图表、AI 分析),历史可回看。通知通道覆盖企业微信 / 钉钉 / 邮件 / Webhook,消息含关键指标摘要、AI 结论与"查看详情"链接。
成本分析模块做 Token 计量与预算告警:按应用、按模型统计消耗,月度预算达到 80% 触发告警。
调度执行架构大致是:Execution Service 的 CronScheduler 每分钟扫描到期 schedule 并建执行记录,Agent Service 的 Worker 每 2 秒扫描待执行任务,跑 SQL + LLM 分析(30–120s),写快照并回写状态,最后推送通知。
这是 AI 灵枢的重点能力。支持三种部署形态:
安全上做了四重防护:
还有几个工程亮点:2 核 4GB 即可运行、云端 SaaS 与私有化同库同构(44 张表)可 pg_dump 迁移、只要模型端点可达即可运行、不强制依赖外网。

官方给出的上手路径:30 分钟首个 Agent 上线,30 天内实现可量化 ROI。
指标 | 使用前 | 使用后 |
|---|---|---|
知识检索耗时 | 30 分钟/次 | 3 秒/次(600×) |
客户响应时间 | 4 小时 | 15 秒 |
报告生成周期 | 3 天 | 10 分钟 |
人工处理成本 | ¥50 万/年 | 服务器成本 |
年节省工时 | — | 2400 小时 |

AI 灵枢不是又一个聊天框,而是一套把"模型能力"组装成"可运行业务应用"的编排系统,同时把权限、成本、调度、私有化这些企业真正在意的事都管了起来。
如果你也在做企业 AI 落地,欢迎在评论区聊聊你们踩过的坑。

原创声明:本文系作者授权腾讯云开发者社区发表,未经许可,不得转载。
如有侵权,请联系 cloudcommunity@tencent.com 删除。