待验证50% 置信基准精确时间
TensorFold构建在80核M5 Ultra芯片上跑混合2/3-bit模型,写入70-105 tokens/s;MLX路线在64核上写入26-29 tokens/s。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/31
首次发现
有效期至:2027/1/29
来源
涉及实体
相关事实
待验证在 vLLM 或 llama.cpp 等引擎的 Tensor Parallel (TP=2) 模式下,PCIe 4.0 x8/x8 不会显著卡住单流 token 生成。66% 相似待验证RTX 5080搭载GB203芯片,提供更高密度的FP8 Tensor Core,并采用GDDR7显存66% 相似待验证同一套llama.cpp构建在M3 Ultra上启动显示has tensor = false,在M5 Ultra上显示has tensor = true,llama.cpp针对M5世代增加了专门的代码路径65% 相似已验证NVIDIA 在 Blackwell 架构(SM 100/103,如 B100、B200 系列)中为 NVFP4 设计了专用 Tensor Core 指令 mma.kind::mxf4,并采用每 16 个元素为一组的 FP8 缩放因子机制64% 相似待验证John Rocky的Apple Silicon LLM基准记录到NVIDIA Nemotron 3 Nano在MLX上159.7 tokens/s、LLAMA.cpp上86.2 tokens/s,但两次运行的量化并不一致63% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1121821API
curl https://kongchang.com/api/v1/knowledge/claims/1121821MCP
get_claim(id=1121821)