Kolibri-1
Aleph Alpha发布的开源混合专家（MoE）大语言模型，总参数78B，推理时激活3.46B参数，支持最高100万Token上下文，采用Apache 2.0许可证
Timeline (last 90 days)
该实验目前只是概念验证式小实验，不能证明Kolibri-1在复杂任务上的全面能力
Kolibri-1是Aleph Alpha旗下的开源模型，采用开放权重发布策略
开发者让Kolibri-1在没有任何针对性微调的情况下直接玩经典街机游戏Breakout
该实验中Kolibri-1每一步决策的推理延迟控制在25毫秒以内
25毫秒的单步延迟意味着模型理论上每秒可以做出约40次决策
该实验将模型输出的动作概率直接转化为游戏操作，而非生成文本
直接读取logits层的概率值绕过文本生成冗余步骤，是实现25毫秒低延迟的关键
本次实验强调的是零样本或少量约束下的直接推理，而非训练游戏专用模型
Aleph Alpha在Hugging Face上发布了新模型Kolibri-1
Kolibri-1以Apache 2.0许可证开源
6 more timeline events
All Facts (16)
该实验目前只是概念验证式小实验，不能证明Kolibri-1在复杂任务上的全面能力
50%UnverifiedKolibri-1是Aleph Alpha旗下的开源模型，采用开放权重发布策略
50%Unverified该实验中Kolibri-1每一步决策的推理延迟控制在25毫秒以内
50%Unverified25毫秒的单步延迟意味着模型理论上每秒可以做出约40次决策
50%Unverified该实验将模型输出的动作概率直接转化为游戏操作，而非生成文本
50%Unverified直接读取logits层的概率值绕过文本生成冗余步骤，是实现25毫秒低延迟的关键
50%Unverified本次实验强调的是零样本或少量约束下的直接推理，而非训练游戏专用模型
50%Unverified稀疏激活降低的是计算量而非存储占用，78B总参数仍需可观的显存或内存资源
50%UnverifiedKolibri-1支持最高100万Token的上下文长度
50%UnverifiedAleph Alpha为Kolibri-1提供了技术报告，说明模型的训练与架构细节
50%UnverifiedKolibri-1以Apache 2.0许可证开源
50%UnverifiedKolibri-1采用混合专家（MoE）架构
50%UnverifiedKolibri-1总参数量达到78B，推理时仅激活约3.46B参数
50%UnverifiedKolibri-1的激活比例不足5%
50%Unverified开发者让Kolibri-1在没有任何针对性微调的情况下直接玩经典街机游戏Breakout
50%UnverifiedAleph Alpha在Hugging Face上发布了新模型Kolibri-1
50%