待验证50% 置信基准精确时间
同一个插件、同一份 400 个用例的工作负载,在 τ=0.4 阈值下能省下 86.1% 的计费 Token,在 τ=0.6 阈值下只剩 8.5%。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/13
首次发现
有效期至:2027/1/11
来源
涉及实体
相关事实
待验证大多数模型的单次输出上限在4000到8000 Token之间,部分高端模型支持到32000 Token63% 相似待验证该配置下35B模型实测单人最高速度约80 Tokens/秒,并发可达500 Tokens/秒以上63% 相似待验证相比 1024 维,1536 多出 50% 的表达容量;相比 2048 维,1536 省下 25% 的存储与计算62% 相似待验证Naive-N0.5-Flash 单并发可优化到约 2000 token/s,多并发场景下可达每秒 50 token 以上62% 相似待验证对于参数量在 10B 以上的模型,4-bit 量化通常能在显存节省约 50% 的同时将能力损失控制在 5% 以内62% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1016996API
curl https://kongchang.com/api/v1/knowledge/claims/1016996MCP
get_claim(id=1016996)