待验证50% 置信基准精确时间
在Windows 10/11 x86_64(Intel Core i5-12600K,AVX2)上,BitRun运行Falcon3 1B生成速度为40-45 t/s。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/13
首次发现
有效期至:2026/10/27
来源
涉及实体
相关事实
待验证在Linux x86_64(WSL2/Ubuntu,AVX2)下,BitRun首Token延迟约130 ms,生成速度为40-45 t/s。78% 相似待验证安腾运行x86代码时性能仅相当于同频率Pentium处理器的约20%-30%73% 相似待验证在Apple Silicon M4 Pro(12核,ARM NEON)上,Falcon3 1B Instruct达到137.5 t/s提示处理和98.6 t/s生成速度,内存占用1.9 GB。72% 相似待验证在RTX 3060上,开发者用Triton手写的面向batch-1解码的融合W4A16 GEMV内核速度约为25.5 tok/s,追平了bitsandbytes NF4量化方案的约25.7 tok/s。71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1018713API
curl https://kongchang.com/api/v1/knowledge/claims/1018713MCP
get_claim(id=1018713)