待验证50% 置信事实精确时间

llama.cpp的基准测试将提示处理（prefill）和文本生成（decode）分开测量

1

来源数

50%

置信度

长期有效

时效性

2026/9/29

首次发现

来源

本地AI部署8大误区：参数越大真的越强吗？

涉及实体

llama.cppproduct

相关事实

待验证llama.cpp的grammar功能基于上下文无关文法（CFG）的解析器引导生成72% 相似待验证LLM 推理请求分为 Prefill（输入）和 Decode（输出）两个阶段，Prefill 可并行读取吞吐极高，Decode 需逐字串行推理占用 GPU 时间显著更长64% 相似待验证Outlines、llama.cpp的grammar sampling、vLLM的guided decoding等开源框架提供约束解码能力63% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/958363

API

curl https://kongchang.com/api/v1/knowledge/claims/958363

MCP

get_claim(id=958363)