待验证50% 置信事实精确时间

Handwired README 的速度声明针对的是 GPU 上的批量求值，例如 JSON 搜索 demo 一次处理 10 万份文档。

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/10/16

首次发现

有效期至：2027/1/14

来源

把代码编译成神经网络：能学价格，学不会规则

涉及实体

Handwiredproduct

相关事实

待验证传统GPU如NVIDIA A100/H100在推理阶段面临内存带宽瓶颈，模型权重需要在每次生成Token时从显存反复读取69% 相似待验证自回归生成中每生成一个token需读取全部权重一次，内存带宽而非算力峰值才是真正的性能瓶颈65% 相似待验证在 Intel i5-9500 上，Qwen2.5-7B-Instruct 模型读取速度约为每秒 8 个 token，读取提示词占每次模型调用时间的约 90%。65% 相似待验证大模型推理服务的快照数据量可能达到数十GB甚至上百GB64% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1048086

API

curl https://kongchang.com/api/v1/knowledge/claims/1048086

MCP

get_claim(id=1048086)