gpt-oss-20b
OpenAI 发布的开源混合专家(MoE)大语言模型,参数量约21B,支持本地部署和微调
时间轴 (近 90 天)
Gemma 4 26B A4B为25.2B总参数/3.8B激活,Qwen3-Next-80B-A3B为80B/3B,gpt-oss-20b为20.9B/3.6B
gpt-oss-20b以约2.2美分的最低运行费用取得94/108(87.04%)的成绩
免费开源模型Gemma 4在60道有解问题中全部答对且每次标对来源,gpt-oss-20b答对59道;付费小模型Claude Haiku 4.5答对36道、GPT-5.4 mini答对32道
gpt-oss-20b的短板是来源标注,60题里完整列全来源的只有52次
在Higgins任务的test-100样本中,injected响应的value字段填入了说明冲突的文字,但没有采纳被植入的攻击目标值E-05-03,表明模型没有被注入攻击攻陷
审计覆盖的两类任务由不同模型完成并使用不同评分器,Higgins配对任务使用gpt-oss-20b,Faria检测器任务使用gpt-5.5,因此得分被严格分开,不存在合并的模型排名
gpt-oss-120b 得分 0.625 反而低于 gpt-oss-20b 的 0.720,表明更大的模型不等于更安全
gpt-oss 不使用 ChatML,而是在 OpenAI 的 Harmony 格式上训练,使用 analysis、final、commentary 三种通道输出内容
用 QLoRA 微调 gpt-oss-20b 约需 14 GB 显存,Unsloth 官方建议至少配备 16 GB
在未量化的 BF16 权重上做 LoRA 微调 gpt-oss-20b 需要约 44 GB 显存
还有 7 条时间轴事件
全部知识事实 (17)
Gemma 4 26B A4B为25.2B总参数/3.8B激活,Qwen3-Next-80B-A3B为80B/3B,gpt-oss-20b为20.9B/3.6B
50%待验证gpt-oss-20b以约2.2美分的最低运行费用取得94/108(87.04%)的成绩
50%待验证免费开源模型Gemma 4在60道有解问题中全部答对且每次标对来源,gpt-oss-20b答对59道;付费小模型Claude Haiku 4.5答对36道、GPT-5.4 mini答对32道
50%待验证gpt-oss-20b的短板是来源标注,60题里完整列全来源的只有52次
50%待验证在Higgins任务的test-100样本中,injected响应的value字段填入了说明冲突的文字,但没有采纳被植入的攻击目标值E-05-03,表明模型没有被注入攻击攻陷
50%待验证审计覆盖的两类任务由不同模型完成并使用不同评分器,Higgins配对任务使用gpt-oss-20b,Faria检测器任务使用gpt-5.5,因此得分被严格分开,不存在合并的模型排名
50%待验证gpt-oss-120b 得分 0.625 反而低于 gpt-oss-20b 的 0.720,表明更大的模型不等于更安全
50%待验证gpt-oss 不使用 ChatML,而是在 OpenAI 的 Harmony 格式上训练,使用 analysis、final、commentary 三种通道输出内容
50%待验证用 QLoRA 微调 gpt-oss-20b 约需 14 GB 显存,Unsloth 官方建议至少配备 16 GB
50%待验证在未量化的 BF16 权重上做 LoRA 微调 gpt-oss-20b 需要约 44 GB 显存
50%待验证微调使用了 4260 条训练样本和 474 条评估样本,均为带思维链的 STEM 问答数据
50%待验证在 Harmony 格式中最终答案以 <|return|> 结尾,对话历史中的消息以 <|end|> 结尾,<|return|> 必须被设为停止 token 否则生成会无限持续
50%待验证两个开源权重模型gpt-oss-20b和qwen3-235b最容易被荷兰赌局套利,主要源于合取题
50%待验证gpt-oss-20b在2030世界杯划分题中给出六个穷尽互斥结果加起来只有0.36
50%待验证更大更新的模型未必表现更好:gpt-oss-120b(0.740)得分低于 gpt-oss-20b(0.761);DeepSeek-R1 花费1.94美元得分却低于花13美分的 Gemma 4 31B
50%待验证所有模型在显式记忆更新上平均得分0.91,但在隐含更新上只有0.67;Opus 5.5 和 Gemini 3.1 Pro 能抓住每一个隐含变更,gpt-oss-20b 抓住零个
50%待验证gpt-oss-20b 的 QLoRA 在 NVIDIA 上快了 2 到 3 倍
50%