暂无搜索历史
调优不当的输入管道可能浪费 50% 的 GPU 时间,而算法优化通常只给几个百分点
一个 72 卡的 NVIDIA NVL72 机柜,如果每张 GPU 需要 200 MB/s 的训练数据才不闲着,整个机柜需要 14 到 20 GB/s 的聚合存...
第一章第五节讲过,2026 年推理系统最明确的一条主线,是分离式 Prefill/Decode——把 prefill 和 decode 拆到不同的 GPU 池,...
一块 Blackwell 几秒钟能算完的矩阵,如果梯度同步要走一条又慢又绕的路,整张卡就得停下来干等。在我们第一章里 Meta 那份研究说,集群看着 100% ...
第二章:网络层——NVLink、InfiniBand、RoCE、RDMA 与分布式通信
DeepSeek Harness 是一个开源 AI Agent 框架,通俗说就是"给只会聊天的 AI 装上手脚":装上它之后,AI 能打开你电脑里的文件、帮你改...
FDE(Forward Deployed Engineer,前沿部署工程师)是把大厂 AI 模型部署进客户真实生产环境、并对最终业务结果负责的工程师。
现在来看 FDE 就像一个外包驻场到客户的全栈工程师,大多数甲方不想花太多钱来弄一个这样的存在,更或者说现在编制名额有限
下载了一堆 PDF 没看完,技术笔记散在好几个地方,会议纪要、随手收藏的链接、项目文档各自为政。它们明明讲着同一件事,却像一堆互不认识的纸片,躺在不同层级的目录...
我在公司里也遇到了这个选择。我们有个内部运维平台,想给Agent开放接口,让Agent能自动查监控、拉日志、触发告警。技术方案讨论了三轮,卡在一个问题上:是封装...
市面上的运维面试题很多,但绝大多数是「问题 + 一句话答案」。比如问「K8s 网络怎么实现」,答案常是一句「Service 通过 kube-proxy 转发」—...
变量来源于数学,是计算机语言中能储存计算结果或能表示值抽象概念。变量可以通过变量名访问。
我回想了下迈入这行,在学校里面我们努力编码,可能都是比较低级,完全没入门,直到出来工作后,无心插柳柳成荫,做成了运维,年纪逐渐变大,发现自己深入泥潭;更是给予不...