[
控场AI
]
知识动态
实体
播客
深度
开发者
关于
Get CLI
EN
概念
MTP / Multi-Token Prediction
多token预测
一种语言模型解码技术,允许模型在单次前向传播中预测多个token,常与推测解码结合使用以提升推理效率
来源文章
自适应多Token预测:推理加速的投机视野如何动态调整?
10月21日
BitMTP:多Token预测与低比特LLM的协同加速
10月21日
Lafa:8B参数连续流语言模型,吞吐量超AR模型2.54倍
10月21日
12GB显存跑180B大模型?Strata引擎本地部署深度解析
10月5日
IQuest-Q1 深度解析:320B MoE 模型如何重塑智能编程
10月4日