已过期50% 置信基准精确时间

通过allreduce融合优化，Qwen3-Next模型实现了吞吐量提升71.4%，并将首个Token延迟（TTFT）从456ms压缩至168ms

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/7/11

首次发现

有效期至：2026/10/9(已过期)

来源

AI智能体辅助SGLang内核优化：实测性能提升与工程方法论

twitterlmsysorg2026/7/2

相关事实

待验证Qwen3.5的参数激活率为4.3%，而DeepSeek V3的671B模型激活率为5.5%71% 相似已验证Q4量化将每个权重参数从16位压缩到4位，理论上可将模型体积缩小约75%69% 相似待验证使用Qwen3 27B Q4量化稠密模型实测，关闭思考模式下生成速度约58-60 Token/s68% 相似待验证在投机解码场景中，Q3量化版本实际速度慢于Q4量化版本66% 相似待验证原版Qwen3.6 27B Q4在工具调用测试中获得97分，说明蒸馏并不总能提升性能65% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/486835

API

curl https://kongchang.com/api/v1/knowledge/claims/486835

MCP

get_claim(id=486835)