待验证70% 置信事实精确时间
投机解码是一种无损的LLM推理加速技术,由Leviathan等人于2023年正式提出
2
来源数
70%
置信度
长期有效
时效性
2026/9/11
首次发现
来源
涉及实体
相关事实
待验证GLM 5.2引入了多令牌预测(MTP)技术,该技术由Meta在2024年研究中提出,可通过投机解码提升推理速度66% 相似待验证Llama 1于2023年2月发布,参数规模为7B至65B,采用纯Transformer解码器架构,引入RoPE位置编码和SwiGLU激活函数64% 相似待验证投机解码(Speculative Decoding)技术于2023年兴起,用小型草稿模型快速生成候选token,由大型主模型并行验证62% 相似已验证多 Token 预测(MTP)是 Meta 在 2024 年提出的训练与推理加速技术,并在 DeepSeek-V3 等模型中应用62% 相似待验证vLLM由UC伯克利于2023年开源,凭借PagedAttention技术将LLM推理吞吐量提升2-4倍61% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/907849API
curl https://kongchang.com/api/v1/knowledge/claims/907849MCP
get_claim(id=907849)