待验证50% 置信事实精确时间

以float16计算，一个100K词表的概率分布约为200KB

1

来源数

50%

置信度

长期有效

时效性

2026/9/11

首次发现

来源

X-CoSD框架详解：跨词表协作推测解码如何加速LLM推理

涉及实体

相关事实

待验证以英语约5万常用词汇计算，Trigram 理论上需存储约1.25×10¹⁴种组合的概率72% 相似待验证LLM生成阶段对词汇表（通常包含32,000至128,000个token）计算Softmax概率分布，形成总和为1的概率向量70% 相似待验证1000亿参数的模型处理单次推理请求需约80GB显存，百亿参数级别模型仅需约20GB69% 相似待验证Grok 1 的3140亿总参数中每次推理仅激活约25%，实际推理算力接近650亿参数规模的密集模型64% 相似待验证大模型的输出是概率性的而非确定性的，同样的问题问100次可能得到100个不同的回答64% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/895485

API

curl https://kongchang.com/api/v1/knowledge/claims/895485

MCP

get_claim(id=895485)