待验证50% 置信事实精确时间

llama.cpp、vLLM、SGLang、Ollama四种运行时对MTP功能有各自不同的命名和入口，且都不默认开启

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/9/10

首次发现

有效期至：2026/12/9

来源

MTP多令牌预测：Qwen3性能提升3倍的隐藏开关

涉及实体

llama.cppproduct vLLMproduct SGLangproduct Ollamaproduct

相关事实

待验证vLLM存在Bug：Prefix预填充与MTP不能并存，同时开启会有调用tools的风险62% 相似待验证llama.cpp的预编译产物（涵盖CUDA、ROCm、macOS）现在统一从unslothai/llama.cpp仓库拉取，Studio新增了应用内一键更新llama.cpp按钮58% 相似待验证ROUNDS当前技术栈为公开的Vercel应用通过ngrok调用一台本地Windows机器上的LLM53% 相似待验证llama.cpp、ONNX Runtime Web等主流推理框架均已提供WASM后端支持52% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/887330

API

curl https://kongchang.com/api/v1/knowledge/claims/887330

MCP

get_claim(id=887330)