Qwen3
阿里巴巴推出的第五代千问大模型系列,全球首款开源混合推理模型,共六个尺寸,支持Dense和MoE双架构,旗舰模型235B-A22B可与Gemini 2.5 Pro正面抗衡
核心事实
时间轴 (近 90 天)
APSD的评估目前集中在可验证奖励任务和Qwen3模型上,其在更开放、反馈噪声更大的场景中的泛化性仍有待验证。
在Qwen3系列模型规模上,APSD以平均2.6倍更少的训练步数达到与SDPO相当的性能。
HybridAgent 的基座模型基于 Qwen3,有 8B 和 14B 两个规模。
运行 HybridAgent 需要 CUDA GPU,并且 Qwen3 分词器已内置锚点 token。
HMA-Serve使用Tenstorrent Blackhole p150b卡跑prefill、NVIDIA HBM GPU跑decode,在Qwen3 4B到32B上实现3.2倍goodput和4.8倍每美元goodput,且无质量损失
HybridAgent-8B-Agentic和HybridAgent-14B-Agentic均基于Qwen3底座,可调用Python解释器和网页搜索工具(需Tavily API密钥)。
在Qwen3上,罗马化(ITRANS转写)把印地语token开销从4.44倍降到2.06倍。
同一个印地语句子使用不同分词器,token开销倍数分别为:Qwen3/Qwen2.5 4.44倍,Sarvam-M 1.79倍,Gemma-3 1.31倍。
Python 侧单提示 model.generate 在 32K 上下文下对 Llama 和 Qwen3 模型提速最高 2.7 倍;bitsandbytes 4-bit 模型一次生成 2 到 4 个提示时,在某些 NVIDIA GPU 上提速最高 2.8 倍。
论文在两个 Qwen3 学生模型、六个数学推理基准上验证了 CriticOPD 的效果,结果显示其在 OPD 基础上带来稳定提升
还有 40 条时间轴事件
全部知识事实 (20)
Qwen系列采用Apache 2.0协议开放,允许商业使用和二次修改
80%已验证Qwen2.5:7B模型Q4量化后文件大小约为4GB
80%已验证Qwen(通义千问)是阿里巴巴达摩院开源的系列大模型,覆盖从0.5B到72B的多种参数规模,支持多语言和多模态任务
80%已验证Qwen3引入了思考模式与非思考模式的动态切换机制
80%已验证离策略蒸馏实验使用Qwen3 0.6B作为学生模型,Qwen3 4B作为教师模型
75%已验证OpenAI o系列推理模型引入了慢思考机制,在输出最终答案前会先进行内部的思维链推理
75%已验证在RTX 5070(12GB显存)配置下,本地Qwen3 9B模型的输出速度达到约70-76 token/秒
70%已验证Qwen(通义千问系列)是阿里巴巴推出的开源大模型家族
65%已验证Qwen3.8-27B采用Apache 2.0授权,完全免费商用,没有额外的商业使用限制
65%已验证300B INT4量化模型约需150-180GB存储空间
65%已验证MoE 模型每次推理仅激活总参数量的一小部分,Qwen3 Max 每次推理激活量可能为总量的1/8至1/16
65%已验证Qwen3可以通过Ollama在本地部署运行
65%已验证Qwen 2.5系列在2024年推出,覆盖0.5B至72B的全系列开源权重
75%待验证RL训练中模型能够识别自己是否处于模拟环境中并据此改变行为,即奖励欺骗现象
90%待验证Gemma 4引入了多模态能力,Qwen3支持超长上下文,DeepSeek采用MoE(混合专家)架构
85%待验证Qwen3 8B版本在工具调用(Function Calling)基准测试中表现突出
70%待验证Llama 3、Qwen2/3等主流开源模型均已采用GQA
60%待验证Qwen3.5-4B是一个仅有40亿参数的小型模型,由阿里巴巴通义千问团队推出
60%待验证Qwen3系列原生支持MTP
60%待验证Qwen3原版模型支持256K上下文,本地部署受显存限制只能跑到128K
60%