待验证50% 置信基准精确时间

John Rocky的Apple Silicon LLM基准记录到NVIDIA Nemotron 3 Nano在MLX上159.7 tokens/s、LLAMA.cpp上86.2 tokens/s，但两次运行的量化并不一致

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/10/13

首次发现

有效期至：2027/1/11

来源

M4 Max跑本地大模型：42与130 tokens/s的三个开关

涉及实体

NVIDIA Nemotron 3 Nanomodel MLXproduct LLAMA.cppproduct

相关事实

待验证CUDA生态中的vLLM、TensorRT-LLM等高性能推理框架尚无原生Apple Silicon版本62% 相似待验证作者将 Nemotron 3 Nano Omni 部署在 Modal 平台上，并通过本地的 Gradio 前端进行交互61% 相似待验证高通骁龙X系列笔记本芯片内置了NPU60% 相似待验证Neo X1 Pro搭载AMD Ryzen 9 9955HX3D移动处理器，采用16核Zen 5架构60% 相似待验证Nemotron 系列模型的名称中「Nano」表示参数量在数十亿级别（通常为 4B-8B 参数），适合在单张消费级 GPU 上运行59% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1015149

API

curl https://kongchang.com/api/v1/knowledge/claims/1015149

MCP

get_claim(id=1015149)