anzhsoft

文章/答案/技术大牛

发布

LV0

发表了文章 21天前2026-07-27 19:28:52

30-671B-MoE级别训练暴露了哪些infra问题

第 29 篇讲 Fully Async Policy：当 rollout 和 trainer 分开跑，吞吐、新鲜度和 off-policy correction...

anzhsoft 21天前2026-07-27 19:28:52

模型、内存、配置、同步、系统

发表了文章 21天前2026-07-27 18:48:24

29-FullyAsyncPolicy速度新鲜度和off-policy的三角关系

第 28 篇讲 TransferQueue：它把 rollout 产物从 controller 返回值改成外部队列和 metadata，但 trainer 仍然...

anzhsoft 21天前2026-07-27 18:48:24

系统、async、policy、队列、同步

发表了文章 21天前2026-07-27 18:48:02

28-TransferQueue从单controller数据流走向流式数据系统

第 27 篇把 data movement 拆成 DataProto序列化、driver 侧合并、Ray object 和 DataProtoFuture。第 ...

anzhsoft 21天前2026-07-27 18:48:02

数据流、controller、队列、数据、同步

发表了文章 25天前2026-07-23 20:58:23

美国掌握芯片，中国争夺开放生态： Kimi K3 把大模型竞争推向系统架构时代

一页看懂 Kimi K3 的六个突破：2.8T 参数、896 个专家选择 16 个、百万上下文、2.5 倍扩展效率、MXFP4 与 MXFP8 低精度共设计、...

anzhsoft 25天前2026-07-23 20:58:24

芯片、缓存、系统架构、模型、系统

发表了文章 25天前2026-07-23 20:58:13

26-RLHF吞吐瓶颈在哪里

第 25 篇建立了一轮 RL step 的 profiling 账本：先看 perf/time_per_step、perf/throughput，再拆 timi...

anzhsoft 25天前2026-07-23 20:58:13

同步、源码、actor、timing、配置

发表了文章 25天前2026-07-23 20:58:03

25-如何profiling一次RL Step

第 24 篇把训练权重同步回 rollout，补上了 update_actor -> update_weights -> next rollout的闭环。闭环之...

anzhsoft 25天前2026-07-23 20:58:03

timing、后端、同步、系统、profiling

发表了文章 25天前2026-07-23 20:57:52

从推理模型到具身智能：veRL 为什么正在成为后训练基础设施

昨天《训推工坊：以 verl 代码库走读 AI Infra》第 24 篇《Checkpoint Engine：训练权重如何同步给推理引擎》刚刚发布。今天是周日，...

anzhsoft 25天前2026-07-23 20:57:52

算法、系统、具身智能、框架、模型

发表了文章 25天前2026-07-23 20:56:02

第五组导读-性能、规模与生产化

第四组把视角推进到 worker 内部：actor/critic update 由训练 engine、micro-batch、sequence parallel...

anzhsoft 25天前2026-07-23 20:56:02

数据、系统、性能、异步、队列

发表了文章 25天前2026-07-23 20:55:54

24-CheckpointEngine训练权重如何同步给推理引擎

第 23 篇把训练引擎推到 token 维度：长上下文让 Sequence/Context Parallel 进入 forward、attention 和输出恢...

anzhsoft 25天前2026-07-23 20:55:55

生命周期、同步、通信、源码、后端

发表了文章 25天前2026-07-23 20:52:47

23-长上下文训练为什么需要SequenceParallel

第 22 篇把 mini-batch、micro-batch 和 dynamic batch size 拆开了：算法窗口、GPU 执行切片、token 重新装箱...

anzhsoft 25天前2026-07-23 20:52:47

size、token、配置、算法、源码

发表了文章 2026-07-162026-07-16 21:30:31

22-mini-batch-micro-batch-dynamic-batch-size的区别

第 21 篇解释了 EngineRegistry和 BaseEngine如何把不同训练后端收进同一组 worker 合同。接下来最容易混淆的不是后端名字，而是 ...

anzhsoft 2026-07-162026-07-16 21:30:31

配置、算法、dynamic、size、后端

发表了文章 2026-07-162026-07-16 21:30:11

21-EngineRegistry如何让上层Trainer不关心底层后端

第 19 篇和第 20 篇分别拆了 FSDP/FSDP2 与 Megatron/MCore。读到这里，很容易产生一个反问：既然两个后端差异这么大，为什么上层 t...

anzhsoft 2026-07-162026-07-16 21:30:12

rank、后端、接口、配置、同步

发表了文章 2026-07-162026-07-16 21:29:48

20-Megatron-MCore-TP-PP-EP如何支撑MoE

第 19 篇讲 FSDP/FSDP2：当一次 RL update 进入 worker 内部，训练状态怎样被参数、梯度和 optimizer state 的 sh...

anzhsoft 2026-07-162026-07-16 21:29:49

路由、模型、配置、源码、后端

发表了文章 2026-07-132026-07-13 11:13:32

如何把 CubeSandbox 放进 veRL 训练链路

上一篇：腾讯开源 CubeSandbox：当 AI 开始替你动手，Sandbox 就不再是可选项，从 AI Agent 进入办公和研发场景讲起，解释了 Cube...

anzhsoft 2026-07-132026-07-13 11:13:32

测试、集群、模型、网络、并发

发表了文章 2026-07-132026-07-13 11:13:13

19-FSDP-FSDP2 把大模型切开训练

第三组解释了 rollout 如何把 response 生产出来，第四组导读把问题推进到 worker 内部。本文从最常用的 FSDP/FSDP2 后端切入：当...

anzhsoft 2026-07-132026-07-13 11:13:13

配置、算法、同步、源码、模型

发表了文章 2026-07-132026-07-13 11:13:05

腾讯开源 CubeSandbox：当 AI 开始替你动手，Sandbox 就不再是可选项

如果你第一次接触 AI Agent，可以先把 sandbox 理解成“给模型临时分配的一台隔离小电脑”。模型可以在里面运行 Python、Shell、测试命令，...

anzhsoft 2026-07-132026-07-13 11:13:05

开源、sandbox、模型、腾讯、网络

发表了文章 2026-07-132026-07-13 11:12:54

第四组导读-训练引擎与分布式核心

第三组把推理嵌入训练：response 不是训练脚本里顺手调用的一次生成，而是由 rollout service、backend adapter、KV cach...

anzhsoft 2026-07-132026-07-13 11:12:54

同步、分布式、后端、模型、算法

发表了文章 2026-07-132026-07-13 11:12:46

18-长尾rollout为什么agentRL容易让GPU空转

上一篇把工具、sandbox 和环境反馈接回了训练信号。本文继续看这个设计的代价：一旦 rollout 不再是单轮补全，而是长 prompt、长 respons...

anzhsoft 2026-07-132026-07-13 11:12:46

工具、同步、异步、gpu、并发

发表了文章 2026-07-132026-07-13 11:12:38

17-ToolCalling和Sandbox环境如何成为reward的一部分

上一篇说明了 agent loop 为什么必须坚持 token-in/token-out：多轮轨迹里既有模型生成 token，也有工具 observation ...

anzhsoft 2026-07-132026-07-13 11:12:38

系统、sandbox、工具、模型、配置

发表了文章 2026-07-132026-07-13 11:12:30

从 verl 源码读懂 AI 后训练：一套写给 AI Infra 读者的训推系统地图

当我们进入 RLHF、GRPO、Agent RL、多轮工具调用这些场景时，系统里同时出现了训练目标、数据流、controller、worker、reward、r...

anzhsoft 2026-07-132026-07-13 11:12:31

源码、地图、后端、算法、系统

12 下一页

个人简介

暂未填写公司和职称
暂未填写个人简介
暂未填写技能专长
暂未填写学校和专业
暂未填写个人网址
暂未填写所在城市
加入社区时间：2019-10-14

个人成就

获得 17 次赞同
文章被阅读 7K 次

关注了：1关注者：11

anzhsoft

30-671B-MoE级别训练暴露了哪些infra问题

29-FullyAsyncPolicy速度新鲜度和off-policy的三角关系

28-TransferQueue从单controller数据流走向流式数据系统

美国掌握芯片，中国争夺开放生态： Kimi K3 把大模型竞争推向系统架构时代

26-RLHF吞吐瓶颈在哪里

25-如何profiling一次RL Step

从推理模型到具身智能：veRL 为什么正在成为后训练基础设施

第五组导读-性能、规模与生产化

24-CheckpointEngine训练权重如何同步给推理引擎

23-长上下文训练为什么需要SequenceParallel

22-mini-batch-micro-batch-dynamic-batch-size的区别

21-EngineRegistry如何让上层Trainer不关心底层后端

20-Megatron-MCore-TP-PP-EP如何支撑MoE

如何把 CubeSandbox 放进 veRL 训练链路

19-FSDP-FSDP2 把大模型切开训练

腾讯开源 CubeSandbox：当 AI 开始替你动手，Sandbox 就不再是可选项

第四组导读-训练引擎与分布式核心

18-长尾rollout为什么agentRL容易让GPU空转

17-ToolCalling和Sandbox环境如何成为reward的一部分

从 verl 源码读懂 AI 后训练：一套写给 AI Infra 读者的训推系统地图

个人简介

个人成就

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐

anzhsoft

30-671B-MoE级别 训练暴露了哪些infra问题

29-FullyAsyncPolicy速度新鲜度和off-policy的三角关系

28-TransferQueue从单controller数据流走向流式数据系统

美国掌握芯片，中国争夺开放生态： Kimi K3 把大模型竞争推向系统架构时代

26-RLHF吞吐瓶颈 在哪里

25-如何profiling一次RL Step

从推理模型到具身智能：veRL 为什么正在成为后训练基础设施

第五组导读-性能、规模与生产化

24-CheckpointEngine训练权重如何同步给推理引擎

23-长上下文训 练为什么需要SequenceParallel

22-mini-batch-micro-batch-dynamic-batch-size的区别

21-EngineRegistry如何让上层Trainer不关心底层后端

20-Megatron-MCore-TP-PP-EP如何支撑MoE

如何把 CubeSandbox 放进 veRL 训练链路

19-FSDP-FSDP2 把大模型切开训练

腾讯开源 CubeSandbox：当 AI 开始替你动手，Sandbox 就不再是可选项

第四组导读-训练引擎与分布式核心

18-长尾rollout为什么agentRL容易让GPU空转

17-ToolCalling和Sandbox环境如何成为reward的一部分

从 verl 源码读懂 AI 后训练：一套写给 AI Infra 读者的训推系统地图

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐

30-671B-MoE级别训练暴露了哪些infra问题

26-RLHF吞吐瓶颈在哪里

23-长上下文训练为什么需要SequenceParallel