摩尔线程完成Kimi K3适配 支持2.8万亿参数开源大模型

观点网讯：7月28日，据摩尔线程发布，月之暗面正式开源2.8万亿参数模型Kimi K3，并发布模型权重与技术报告。

同日，摩尔线程基于AI训推一体智算卡MTT S5000及MUSA软件栈，率先完成Kimi K3的极速适配与稳定拉起。

Kimi K3是全球首个开源的3万亿级别模型，拥有2.8万亿参数，基于KDA混合线性注意力机制和注意力残差技术构建，采用Gated MLA与Stable LatentMoE等架构创新，原生支持视觉理解，并拥有100万token上下文窗口。

摩尔线程在模型开源后第一时间完成模型结构解析、权重加载、核心算子、缓存管理与分布式运行链路的适配，并打通从SGLang-MUSA推理框架到MATE算子库、Triton MUSA、TileLang MUSA的适配路径。

针对Kimi K3官方MXFP4 checkpoint，摩尔线程设计了加载期在线逐层量化方案，无需离线转换，为Day-0快速拉起模型推理提供了关键支撑。

免责声明：本文内容与数据由观点根据公开信息整理，不构成投资建议，使用前请核实。