星辰4.0 29B
国产开源大语言模型,采用MoE架构,总参数29B,每次激活4B参数,重点强化Agent与Coding能力,支持私有化部署,适配主流Agent框架和国产芯片
时间轴 (近 90 天)
星辰4.0 29B是一款国产开源模型,采用MoE架构,总参数29B,每次仅激活4B参数
星辰4.0 29B在29B规模下重点强化了Agent与Coding能力,并支持私有化部署
星辰4.0 29B适配Claude Code、Cline、Hermes等主流Agent和聊天框架
星辰4.0 29B经过4bit量化后,单卡显存占用约15GB,可在家用游戏显卡上部署
星辰4.0 29B兼容MindFormers、LLaMA-Factory等微调工具,以及SGLang、vLLM等推理框架
星辰4.0 29B基于智源FlagOS完成了昇腾等多家国产芯片的端到端适配,实现跨芯片架构迁移与一键部署
星辰4.0 29B每次推理计算量大致与4B稠密模型持平,显存占用和算力需求由激活参数量决定而非总参数量
星辰4.0基于数十万亿tokens的数据基座,采用MLA、MTP、MHC等架构设计,并进行从4K到32K、128K、256K的分阶段长上下文训练
星辰4.0在Agent、Coding和Reasoning方向分别开展多专家强化学习训练,通过MoPD融合不同专家能力
星辰4.0 29B已登陆GitHub、Hugging Face和魔搭等开源社区
还有 1 条时间轴事件
全部知识事实 (11)
在Coding实测中,星辰4.0修复Git仓库日期计算bug时采取先获取证据判断问题、控制修改范围、用测试验证的工程习惯
50%待验证星辰4.0 29B在29B规模下重点强化了Agent与Coding能力,并支持私有化部署
50%待验证星辰4.0 29B适配Claude Code、Cline、Hermes等主流Agent和聊天框架
50%待验证星辰4.0 29B经过4bit量化后,单卡显存占用约15GB,可在家用游戏显卡上部署
50%待验证星辰4.0 29B兼容MindFormers、LLaMA-Factory等微调工具,以及SGLang、vLLM等推理框架
50%待验证星辰4.0 29B基于智源FlagOS完成了昇腾等多家国产芯片的端到端适配,实现跨芯片架构迁移与一键部署
50%待验证星辰4.0 29B每次推理计算量大致与4B稠密模型持平,显存占用和算力需求由激活参数量决定而非总参数量
50%待验证星辰4.0基于数十万亿tokens的数据基座,采用MLA、MTP、MHC等架构设计,并进行从4K到32K、128K、256K的分阶段长上下文训练
50%待验证星辰4.0在Agent、Coding和Reasoning方向分别开展多专家强化学习训练,通过MoPD融合不同专家能力
50%待验证星辰4.0 29B是一款国产开源模型,采用MoE架构,总参数29B,每次仅激活4B参数
50%待验证星辰4.0 29B已登陆GitHub、Hugging Face和魔搭等开源社区
50%