Unverified50% confidenceBenchmarkExact time
Collapse推理速度：CPU上单条10-token上下文约0.23毫秒，MPS在batch 1024下约230万token/秒，最近邻查询约0.48毫秒
1
Sources
50%
Confidence
Long-term
Relevance
7/12/2026
First Seen
Sources
无需MLP与注意力机制：点吸引子动力学如何学习词嵌入
redditr/learnmachinelearning7/10/2026
Related Claims
Unverified看芯片而非标称速率：搭载骁龙X62/X65基带的下行可达4-10Gbps，而入门级骁龙X55/X12方案实际下行约1-2Gbps，标称峰值速率在弱信号下参考意义有限73% similarUnverified写入速度实测通常在260MB/s左右，虽达V90标准但低于标称读取300MB/s，连拍缓存清除速度属同级主流水平72% similarUnverifiedGemma量化模型在高性能笔记本电脑上Token生成速度可达每秒20-50个，纯CPU推理约5-15 tokens/秒，INT4量化下NVIDIA RTX 4060/4070可将推理速度提升3-5倍72% similarUnverified在配备96GB显存的M2 Max上以1-bit精度运行时，简单任务生成速度稳定在约28-30 tokens/秒72% similarUnverified华为云ASS零区计算集群支持10万卡规模算力，Token生成延迟压缩到10毫秒以内，算力达到2001 PFLOPS71% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/491364API
curl https://kongchang.com/api/v1/knowledge/claims/491364MCP
get_claim(id=491364)