待验证50% 置信事实精确时间
在LLM顺序解码阶段,流水线并行集群交换的是激活张量而非模型权重;以隐藏维度d=3584为例,FP32精度下每token约14.3KB,动态量化为对称INT8后在网络上只有5.1KB每跳。
1
来源数
50%
置信度
长期有效
时效性
2026/10/12
首次发现
来源
涉及实体
相关事实
引用此条事实
Stable URI
https://kongchang.com/claim/1010447API
curl https://kongchang.com/api/v1/knowledge/claims/1010447MCP
get_claim(id=1010447)