Ornith 1.5 vs Qwen 3.8：本地大模型深度对比评测

2026年8月，两款面向本地部署的开放权重模型在短短5天内相继登场：阿里巴巴Qwen团队的Qwen 3.8 27B于8月14日发布，Deep Reinforce的Ornith 1.5 35B紧随其后于8月19日亮相。二者都采用宽松的开源许可、都瞄准让用户在自己硬件上运行严肃AI，也都伴随着大胆的性能宣称。

本文基于公开基准、独立第三方评测以及真实社区硬件实测，对这两款模型进行一次去营销化的深度对比。核心结论提前剧透：谁更好，完全取决于你在优化什么。

Ornith 1.5 与 Qwen 3.8 的架构差异

理解这场对决的关键，在于看清两款模型截然不同的架构选择——后续几乎所有的显存、速度、长对话行为差异，都能追溯到这一决策。

Ornith 1.5：混合专家（MoE）架构

Ornith 1.5 35B是一个混合专家模型，总参数350亿，但每个token实际只激活约30亿。模型内部有256个独立专家，路由机制会为每个token挑选其中8个来处理，其余248个对该token处于空闲状态。

这种设计带来了真正的计算效率优势：你承载着全部256个专家的知识，却只为其中8个支付计算成本。这也是它运行速度比总参数量所暗示的要快的原因。它采用MIT许可证，是三模型家族（9B稠密版、35B MoE版、397B旗舰版）中定位于消费级/准专业硬件的主力选择。

但这里有个关键陷阱：尽管每个token只激活30亿参数，全部350亿参数仍必须同时加载进内存。因为路由器可能在任意一个token上选择不同的专家组合，模型无法预测哪些专家会被调用，所以所有专家都必须随时待命。MoE在计算上省钱，但在显存上并没有免死金牌。

Qwen 3.8：稠密模型 + 混合注意力机制

Qwen 3.8 27B则是一个稠密模型，277亿参数中的每一个都会在每个token上激活，采用Apache 2.0许可证。表面看这似乎比MoE效率更低，但Qwen通过"混合注意力"弥补了差距。

模型共64层，其中仅16层使用需要不断增长KV缓存的传统完整注意力，其余48层使用一种称为"门控DeltaNet"的线性注意力，维护固定大小的内部状态。实际结果是：即使上下文长度增加，Qwen的KV缓存也保持得非常小。

两个完全不同的工程赌注，旨在解决同一个根本问题——高效运行大模型。Ornith让计算变廉价，Qwen让长对话的内存占用变高效。

基准测试对比：数据来源比分数更关键

多数对比视频的通病是把厂商发布的数字并排一放就完事。但这些数字的来源，比数字本身更值得关注。

厂商自报基准数据

Ornith 1.5 35B在Deep Reinforce自家测试中，Terminal Bench 2.1得分在60多分高位、相关编码基准达70多分高位。Qwen 3.8的自报数据则显示出代际飞跃：Terminal Bench 2.1从上代的63.4升至73.0，Deep SWE从13.3飙升至42.2，OS World Verified从63.9跳到84.3。

问题在于——这些数字全部来自各家用自己的框架、测试自己的模型。这并不意味着它们是假的，但你应该像看待汽车厂商宣称自家车最快那样对待它们。

独立第三方验证结果

整场对比中唯一真正独立的证据来自Artificial Analysis——一家与阿里巴巴无财务关系的第三方基准机构。它给Qwen 3.8的智能指数打出52分，恰好与OpenAI较低层级GPT模型在最大推理设置下相当；在代理指数上得51分，甚至击败了运行在最大推理下的Claude Opus 4.8。

这正是本文对比的核心张力：Qwen的性能主张有真实的第三方验证，而Ornith至少目前还没有。Hacker News上的评论者对其"自我改进"训练方法在35B规模上是否成立表达了真实怀疑。这不是贬低Ornith的能力，而是陈述当前外部确认程度的差异。

真实世界编码测试：结果出人意料

营销停止、现实开始的地方，是真实用户在自己硬件上的实测。

测试一：3JS一次性编码套件（30道题）

某社区成员用three.js构建了30个一次性编码任务（每个模型只有一次机会）。在Q6量化下，结果如下：

• Qwen 3.8 27B：通过24/30，位居榜首
• Ornith 1.5 35B：通过15/30
• 上代Qwen 3.6：13/30

看似Qwen干净利落地获胜。但深挖后发现：Ornith"通过"的部分任务实际产生了空白屏幕或损坏输出，只是技术上满足了测试标准。剔除后其真实可用率更低。不过在它真正跑通的任务上，输出质量明显优于上代Qwen。此外Ornith在整个套件中多消耗了20%-40%的token。

测试二：从零构建3D游戏

在配备512GB统一内存的Apple M3 Ultra上，测试者要求两个模型用单个自然语言提示构建一款类GTA的可玩3D游戏。

• Qwen 3.8：一次性完成任务，无需额外指导。对自主编码代理场景意义重大。
• Ornith 1.5：需要6轮独立迭代、不断引导排错才勉强接近同等水平。测试者直言"Ornith目前根本没在与Qwen相同的自主水平上运行"。

但故事在长上下文速度上再次反转：当上下文延伸到超长领域，Ornith表现出色——早期约75 token/秒，超过160万token后仅缓慢降至约45 token/秒。而Qwen在相同负载下崩溃到约5 token/秒。这是"保持可用"与"陷入停滞"的区别。

两个发现同时为真，哪个更重要取决于你的使用方式。

显存占用对比：24GB显卡是关键分水岭

如果模型装不进你的显卡，一切基准都无意义。

Ornith 1.5 35B：推荐Q4量化，完整设置需约23GB显存，官方建议瞄准27GB以上。由于256个专家必须全部加载，它在显存上无法省钱。好处是可用n-cpu-moe标志将部分专家卸载到系统RAM，让12GB显卡也能运行，但速度明显下降。

Qwen 3.8 27B：同样Q4量化下仅需约16-19GB，舒适装进标准24GB显卡，还剩5.6万-6.4万token的上下文空间。得益于混合注意力，扩展上下文的内存成本极低——8K上下文仅额外约0.5GB缓存，32K也只增加约2GB。

各显存层级硬件建议

• 12GB显卡：Ornith需CPU卸载，Qwen需更激进的低质量量化
• 16GB显卡：Qwen明显更舒适
• 24GB显卡（RTX 3090/4090等主流高端）：两者都可用，但Qwen适配更宽松
• 32GB+显卡：两者都能用上Q6/Q8高质量量化和更长上下文

两款模型均受llama.cpp、Ollama、LM Studio良好支持，也都支持MTP（多token预测）推测解码来加速。

令牌经济学：被忽视的隐性成本

每一个生成的词都花费时间，若在工作流中付费也花费金钱。基准得分高但耗时三倍的模型，未必是更好的实际选择。

Qwen 3.8有"过度思考"的名声——在Artificial Analysis评测中产生约1.6亿输出token，而同规模开放权重模型的中位数仅4300万，接近4倍冗长度。更多输出意味着更彻底的推理（这是其高准确率的部分原因），但也意味着每次响应更长的实际耗时。

Ornith则多消耗20%-40%的token，且部分花在了最终损坏的输出上，还需要多轮引导迭代——每一轮都是额外成本。

真正该关注的指标不是原始token/秒，而是**"每个正确答案的成本"**。按此衡量：Qwen单次响应的冗长被其强大的一次性可靠性抵消（通常无需多轮纠正）；Ornith更快的原始速度则被更多迭代需求抵消。

选择建议：Ornith 1.5 还是 Qwen 3.8？

选择 Qwen 3.8 27B，如果：

• 可靠性和自主性最重要，尤其计划接入编码代理让其无监督工作
• 你想要经过独立验证的性能主张
• 你使用16-24GB显存，追求舒适适配和成熟工具生态

选择 Ornith 1.5 35B，如果：

• 你特别需要MIT许可证用于商业项目
• 你经常处理超长上下文对话且有显存余量（长上下文速度优势明显）
• 你对"自我改进"训练方法感兴趣，且不介意花时间引导迭代

值得强调的是，Ornith发布仅一周，其头条主张仍几乎全部来自厂商自报，独立验证稀缺。这不代表它是坏模型——测试显示它在长上下文速度和成功任务的输出质量上有真实优势。只是在这个领域，信任是通过时间与独立验证赢得的，而目前Qwen在这条路上走得更远。

此外，两款模型都仍有提速空间——MTP推测解码、Qwen针对Blackwell GPU的NVFP量化都在推进中。几周后重新评估这场对比，结果很可能继续变化。