模型爱今天开源Demo灯3.5 74B
爱今天开源Demo灯3.5 74B
采用稀疏混合专家（MoE）架构与二比特量化感知训练的大语言模型，总参数量74B，每次激活约9B参数，权重体积可压缩至24GB以内，支持本地部署
时间轴 (近 90 天)
10月15日
名为'爱今天开源Demo灯3.5 74B'的项目将740亿参数模型压缩至24GB显存，恰好适配一张RTX 4090或3090。
待验证50%
10月15日
该项目采用稀疏混合专家（MoE）架构，74B总参数中每个token仅激活约9B参数，激活比例约12%。
待验证50%
10月15日
12GB显卡运行该项目需要更激进的量化方案或大幅缩短上下文。
待验证50%
10月15日
五个主流运行时在首日提供支持，权重在10月15日当天上线。
待验证50%
10月15日
该项目提供免费在线版本供没有高端显卡的用户体验。
待验证50%
10月15日
该项目发布前几小时在HuggingFace上还搜索不到。
待验证50%
10月15日
该项目同时公开了权重、训练数据和训练方案。
待验证50%
10月15日
目前尚无第三方独立评测，'比同类模型更聪明、快于多数稠密模型'是团队自评结论。
待验证50%
10月15日
据该团队官方口径，本地大模型下载量已达到去年全年的5倍。
待验证50%
全部知识事实 (9)
待验证
据该团队官方口径，本地大模型下载量已达到去年全年的5倍。
50%待验证该项目采用稀疏混合专家（MoE）架构，74B总参数中每个token仅激活约9B参数，激活比例约12%。
50%待验证12GB显卡运行该项目需要更激进的量化方案或大幅缩短上下文。
50%待验证该项目提供免费在线版本供没有高端显卡的用户体验。
50%待验证该项目同时公开了权重、训练数据和训练方案。
50%待验证目前尚无第三方独立评测，'比同类模型更聪明、快于多数稠密模型'是团队自评结论。
50%待验证五个主流运行时在首日提供支持，权重在10月15日当天上线。
50%待验证名为'爱今天开源Demo灯3.5 74B'的项目将740亿参数模型压缩至24GB显存，恰好适配一张RTX 4090或3090。
50%待验证该项目发布前几小时在HuggingFace上还搜索不到。
50%