Qwen 3
阿里巴巴推出的第三代通义千问开源大语言模型,在中文理解与生成上表现突出,支持多种参数规模,可本地部署
时间轴 (近 90 天)
Qwen 3系列是纯文本模型,测试中图片根本没传给它们,其中两个凭空编造了一张收据的总额
千问(Qwen)3 是阿里巴巴开源的多语言大语言模型系列
该模型采用混合专家(MoE)架构,有48层,每层512个专家,共24,576个专家
该模型核心125B参数,外加510亿参数的n-gram查找表和40亿参数的MTP(多token预测)draft层,总和约180B
Strata是一款发布在GitHub上的推理引擎,由一位开发者为运行Qwen 3系列大模型而发布
该模型每层有512个专家,但每个token只激活其中10个,真正参与计算的权重约6B
运行Qwen 3(27B)无优化基线token解码速度:RTX 5090约75、RTX 4090约46、RTX 3090约40、M5 Max 31.4、DGX Spark 12-17、Ryzen AI Max 11.5 tokens/s
首次使用混合计算时提供三个本地模型下载选项:Gemma(适合低端设备)、Qwen 3(约 35B 参数)、以及 Perplexity 自家模型
Qwen 3系列是阿里云开源的多规格语言模型,其8B/27B参数版本可在消费级GPU(如RTX 3090,24GB显存)上本地运行
PrismML 发布的 Bonsai 2 是一个基于 Qwen 3.8 27B 的重度量化版本
还有 7 条时间轴事件
全部知识事实 (14)
该模型每层有512个专家,但每个token只激活其中10个,真正参与计算的权重约6B
60%待验证Qwen 3系列是纯文本模型,测试中图片根本没传给它们,其中两个凭空编造了一张收据的总额
50%待验证千问(Qwen)3 是阿里巴巴开源的多语言大语言模型系列
50%待验证该模型采用混合专家(MoE)架构,有48层,每层512个专家,共24,576个专家
50%待验证该模型核心125B参数,外加510亿参数的n-gram查找表和40亿参数的MTP(多token预测)draft层,总和约180B
50%待验证Strata是一款发布在GitHub上的推理引擎,由一位开发者为运行Qwen 3系列大模型而发布
50%待验证运行Qwen 3(27B)无优化基线token解码速度:RTX 5090约75、RTX 4090约46、RTX 3090约40、M5 Max 31.4、DGX Spark 12-17、Ryzen AI Max 11.5 tokens/s
50%待验证首次使用混合计算时提供三个本地模型下载选项:Gemma(适合低端设备)、Qwen 3(约 35B 参数)、以及 Perplexity 自家模型
50%待验证Qwen 3系列是阿里云开源的多规格语言模型,其8B/27B参数版本可在消费级GPU(如RTX 3090,24GB显存)上本地运行
50%待验证Qwen 3是阿里巴巴通义实验室发布的开源大语言模型系列,具备混合推理模式和强化学习后训练能力
50%待验证教程推荐四个主流模型:Llama 3.1(Meta)综合能力最强,DeepSeek R1(深度求索)擅长深度思考推理,Qwen 3(阿里通义千问)中文效果最好,Gemma 3(谷歌)支持多模态
50%待验证OLMo 2使QK-Norm被广泛认可为训练稳定利器,Gemma 3和Qwen 3受Meta Chameleon启发采用QK-Norm
50%待验证Qwen 3系列采用了包括混合推理在内的多项架构创新
50%待验证PrismML 发布的 Bonsai 2 是一个基于 Qwen 3.8 27B 的重度量化版本
50%