首页
学习
活动
专区
圈层
工具
发布

#AIGC

腾讯云数据平台,为AIGC全流程提供高效存储解决方案。

Agent Loop能上生产吗?

Ox Alpha免费,能放心用吗?

AI时代校招生该怎么培养?

Lean 4自动证明离数学家多远?

AI Agent干活时,一天怎么规划?

AI Agent干活时,你的一天怎么排?

用AI后程序员是在退化吗?

AI Agent 生产落地为何大规模回滚?

用AI后程序员是在退化吗?

换Harness比换模型更赚?

Harness拉满:模型只值30%?

V4涨价却开源Harness?

Flash半价到期:基模在套谁?

DeepSeek dsh 把 Agent 循环也做成插件,哪些能力反而不该插件化?

AI模型可以直接部署在云服务器上面,费用如何?

Harness 和 Agentic Infra,你们团队怎么划边界?

技术方舟

科大讯飞 | 资深架构师 (已认证)

江湖人称“山哥”,在数字化、人工智能、电商和金融等领域积累了丰富的平台架构设计经验
Harness 负责“执行过程的正确性与可验证性”:在相同输入/上下文下,Agent 如何被驱动、如何被约束、如何被评估,以及失败时如何回滚/重试/降级。 Infra 负责“运行所需能力与资源的稳定交付”:模型/工具/检索/存储/队列/并发/网关/权限/审计/观测等基础能力如何提供、如何扩容、如何隔离。 Harness(控制面 / 运行护栏)通常包括: 流程管控:状态机/编排(step、guard、fallback、max iterations、停止条件) 并发与调度策略:面向单次 Agent 运行的 SLA/策略,如并发策略、超时/重试/降级规则 独立验证与评估闭环:对产物进行校验(rule-based / rubric / 反向采样 / 自检代理 / E2E eval)以及验证失败后的处理 安全与合规护栏:工具调用白名单、输出格式约束、PII 处理、越权拦截、审计与告警策略(“何时审计、审计什么、判定规则”偏 Harness;落盘可能在 Infra) 可回放、可追责的运行轨迹:用于复盘与回归测试(依赖 Infra 的日志系统,但由 Harness 决定记录策略与最小必要上下文) 关键点:Harness 关注“这次运行是否按预期完成、是否被验证过、失败时如何兜底”。 Agentic Infra(数据面 / 能力底座)通常包括: 模型与推理网关:多模型路由、灰度、限流、成本控制、超时与熔断(可替换的基础能力) 工具执行与运行环境:沙箱、函数调用服务、浏览器/代码执行运行时、密钥管理与权限体系(工具“怎么跑”) 外化记忆/检索/向量库/数据访问层:检索策略支持、embedding 服务、权限过滤、索引更新机制 基础调度与资源隔离:队列、worker、租户隔离、可扩展性、缓存、幂等等(“怎么规模化地跑起来”) 通用观测与审计存储:日志/指标/链路追踪/告警平台(Infra 提供;Harness 决定采哪些与如何触发)... 展开详请
Harness 负责“执行过程的正确性与可验证性”:在相同输入/上下文下,Agent 如何被驱动、如何被约束、如何被评估,以及失败时如何回滚/重试/降级。 Infra 负责“运行所需能力与资源的稳定交付”:模型/工具/检索/存储/队列/并发/网关/权限/审计/观测等基础能力如何提供、如何扩容、如何隔离。 Harness(控制面 / 运行护栏)通常包括: 流程管控:状态机/编排(step、guard、fallback、max iterations、停止条件) 并发与调度策略:面向单次 Agent 运行的 SLA/策略,如并发策略、超时/重试/降级规则 独立验证与评估闭环:对产物进行校验(rule-based / rubric / 反向采样 / 自检代理 / E2E eval)以及验证失败后的处理 安全与合规护栏:工具调用白名单、输出格式约束、PII 处理、越权拦截、审计与告警策略(“何时审计、审计什么、判定规则”偏 Harness;落盘可能在 Infra) 可回放、可追责的运行轨迹:用于复盘与回归测试(依赖 Infra 的日志系统,但由 Harness 决定记录策略与最小必要上下文) 关键点:Harness 关注“这次运行是否按预期完成、是否被验证过、失败时如何兜底”。 Agentic Infra(数据面 / 能力底座)通常包括: 模型与推理网关:多模型路由、灰度、限流、成本控制、超时与熔断(可替换的基础能力) 工具执行与运行环境:沙箱、函数调用服务、浏览器/代码执行运行时、密钥管理与权限体系(工具“怎么跑”) 外化记忆/检索/向量库/数据访问层:检索策略支持、embedding 服务、权限过滤、索引更新机制 基础调度与资源隔离:队列、worker、租户隔离、可扩展性、缓存、幂等等(“怎么规模化地跑起来”) 通用观测与审计存储:日志/指标/链路追踪/告警平台(Infra 提供;Harness 决定采哪些与如何触发)

Harness 里路由层和执行器,为什么必须拆开?

技术方舟

科大讯飞 | 资深架构师 (已认证)

江湖人称“山哥”,在数字化、人工智能、电商和金融等领域积累了丰富的平台架构设计经验
生产级 Agent 运行时中将 Harness 拆分为“路由层(Router)+ 多策略执行器(Executor)”的目的,是把自由 think-act-observe 循环里容易失控的不确定性(如停止时机、策略切换、降级回退、安全触发、成本与时延)通过路由层前置“控制面”而钉住;路由层根据请求特征与风险信号先决定使用哪种执行器,并下发停止/预算、工具与权限边界、合规安全规则以及输出结构合同,使执行器在固定策略下完成任务并输出可验证结果。若不拆合并在一层,线上最先暴露的往往是控制失效类故障,例如预算或停止条件失控导致成本与延迟爆炸、工具滥用/权限越界、合规与拒答策略不一致引发概率性事故,以及由于缺乏分层决策记录而造成可观测性与可复现性下降;因此当意图不适合自由循环、证据链不足、预算接近阈值、安全风险升高或历史轨迹显示发散时,应由路由层将其降级为确定策略而非继续自由循环。... 展开详请

生产级 Harness 最不该省掉的是哪一层?

技术方舟

科大讯飞 | 资深架构师 (已认证)

江湖人称“山哥”,在数字化、人工智能、电商和金融等领域积累了丰富的平台架构设计经验
如果预算只够认真做一层,我会优先补检查点与失败接管这一层。原因是:线上“模型变强但成功率不动”,往往不是推理能力不够,而是失败后无法收敛与恢复(超时、工具副作用、状态丢失导致反复重试)。有了检查点与可恢复状态,Agent 才能在预算耗尽、工具失败、异常注入时降级退出、回滚或续跑;这直接提升稳定性与可用性。权限清单与评测隔离也重要,但它们通常是“优化与治理”,而检查点/失败接管是“生存底座”。... 展开详请

seo到geo转变?

语言世界模型能替代真实环境训练 Agent 吗?

领券