![文章封面](https://developer.qcloudimg.com/http-save/10106350/b2e3846669fbe4cbdd0828f9038cc47d.png)

德国 AI 实验室 Aleph Alpha 在 10 月 3 日发布了开源权重模型 Kolibri，总参数量 78B，采用 Apache 2.0 许可证。这是一个混合专家架构（MoE）模型，每次推理仅激活 3.46B 参数，在英文数学和代码测试中达到 90 分以上，同时对德语提供了较强支持。

## 架构与训练

Kolibri 采用 50 层结构，全部使用 MoE，共 384 个专家。预训练使用 768 块 B200 GPU，历时 21 天完成，于 9 月 11 日结束。模型处理了超过 200T token 的原始数据，知识截止日期为 6 月 18 日。

训练数据中英语占比约 62%，代码占比 14%，德语 token 约 4.3T，占总训练数据约 21.3%。预训练期间遇到 38 次非计划中断。

预训练后，模型经过 3.44T token 的中训阶段和 200B token 的长上下文适配。Kolibri 支持最长 1M token 的上下文，通过混合注意力机制实现:10 层处理完整上下文，其余 40 层使用 512 token 的滑动窗口。

## 测试表现

官方给出的测试成绩:

- AIME 2025 英文 96.9，德文 87.5
- AIME 2026 英文 96.0，德文 90.0
- HumanEval+ 92.7

这些分数显示 Kolibri 在数学推理和代码生成任务上有较好表现。德语测试分数略低于英语，但仍在 87.5 到 90.0 之间。

## Kolibri Origin

Aleph Alpha 同时发布了 Kolibri Origin，这是一个更小的前序版本，总参数 30.6B，激活参数 3.27B，于 6 月 11 日完成预训练。Origin 使用 7.5T 训练 token，支持 65k token 上下文窗口。

## 适用场景

Kolibri 通过 MoE 架构降低了推理成本，激活参数仅占总参数的约 4.4%。对于需要处理德语内容或超长文档的应用，Kolibri 提供了开源选择。Apache 2.0 许可证允许商业使用和修改。

模型知识截止于 6 月 18 日，不包含之后的信息。对于需要最新知识的场景需要配合外部检索或更新机制使用。

德国 AI 实验室 Aleph Alpha 在 10 月 3 日发布开源模型 Kolibri，总参数 78B，每次推理仅激活 3.46B 参数，采用 Apache 2.0 许可证，支持百万 token 上下文，德语训练占比超过两成。

Aleph Alpha 开源 78B 参数 MoE 模型 Kolibri

人工智能

云计算

德国AI实验室AlephAlpha发布开源权重模型Kolibri，总参数量78B，MoE架构仅激活3.46B参数，支持1M上下文。英文数学AIME达96.9，代码HumanEval+92.7，德语支持强。Apache2.0许可，商业可用，超长文档处理与德语场景优选。

文章

问答

视频

教程

学习中心

腾讯云实验室

直播

竞赛

腾讯云代码分析专区

腾讯iOA零信任安全管理系统专区

腾讯云架构师技术同盟交流圈

腾讯云数据库专区

腾讯云智能顾问专区

腾讯云原生专区

腾讯混元专区

腾讯云TCE专区

腾讯云Lighthouse专区

腾讯云HAI专区

腾讯云Edgeone专区

腾讯云存储专区

腾讯云智能专区

腾讯轻联专区 

腾讯云开发专区

TAPD专区

腾讯轻量云游戏服专区

EdgeOne AI 安全实战专区

腾讯云最具价值专家

腾讯云架构师技术同盟

腾讯云创作之星

腾讯云开发者先锋

腾讯云代码助手

云原生构建

TAPD 敏捷项目管理

Cloud Studio

SDK中心

API中心

命令行工具

涵盖代码开发、场景应用、自动测试全流程，助你从零构建专属AI助手

一站式MCP教程库，解锁AI应用新玩法

聚焦“写作效率、视觉美观与运行性能”三方面进行全面升级，为您提供更高效、稳定的创作环境

社区富文本&Markdown编辑器全新改版上线，欢迎大家体验!

诚挚邀请您参与本次调研，分享您的真实使用感受与建议。您的反馈至关重要，感谢您的支持与参与！

社区新版编辑器体验调研

Aleph Alpha 开源 78B 参数 MoE 模型 Kolibri-腾讯云开发者社区-腾讯云

Aleph Alpha 开源 78B 参数 MoE 模型 Kolibri

Aleph Alpha 开源 78B 参数 MoE 模型 Kolibri

社区

活动

圈层

关于

腾讯云开发者

热门产品

热门推荐

更多推荐