已过期50% 置信基准精确时间
Unsloth v0.1.913-beta 中,解析一条包含孤立 $$ 的 83 KB 回复的耗时从 71 秒降到 0.7 秒
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/30
首次发现
此条事实已过期,仅作历史留存,不再代表当前状态
有效期至:2026/11/13(已过期)
来源
涉及实体
相关事实
待验证Gemma开源模型通过vLLM在A100上实现了2.85倍的端到端推理加速,吞吐量从约37,900 tokens/秒提升至超过108,000 tokens/秒,且保持100% token一致性和零质量下降。68% 相似待验证显存容量与解码速度的相关系数R=0.41(中等相关),显存加内存总容量与速度的R=0.13(基本无关)。67% 相似待验证Q8主模型占用162GB导致drafter无法装入统一内存,DSpark加速失效,将三层MoE专家放回CPU后输出仅从22.87提升到23.49 token/秒(快2.7%),prefill从95.38降至76.6566% 相似待验证实验中 2.8KB 和 4.1KB 两个尺寸点共 8 次执行,空输出率均为 0%,平均输出 tokens 分别为 9,096 和 7,913,约定命中均为 4/4。66% 相似待验证若量化后模型权重为150GB,以273GB/s带宽读取一遍权重约需0.55秒,理论上单token生成速度约为1.8 token/s(未计入计算延迟和跨机通信开销)65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1116802API
curl https://kongchang.com/api/v1/knowledge/claims/1116802MCP
get_claim(id=1116802)