待验证50% 置信事实精确时间
预填充（prefilling）是指在使用大语言模型 API 时，由调用方预先提供一段文本（或 token 序列），让模型在此基础上继续生成，而非从空上下文开始。
1
来源数
50%
置信度
长期有效
时效性
2026/10/27
首次发现
来源
涉及实体
相关事实
待验证预填充是大语言模型推理的第一阶段，模型把用户输入的整段提示词一次性读入，为每个token计算键值向量并存入显存。76% 相似待验证语言模型生成 token 本质上是内存带宽受限任务而非纯算力受限66% 相似已验证Prefill阶段是计算密集型操作，Decode阶段是显存带宽密集型操作66% 相似待验证PrefixLM（前缀语言模型）是一种介于自编码（如BERT）与自回归（如GPT）之间的架构设计，输入序列被划分为前缀和后缀两部分，前缀部分内部token可互相看到（双向注意力），后缀部分只能看到自己及之前的token（因果注意力）。65% 相似待验证表达式求值模式是指软件先解析整行数学表达式为语法树再统一求值，而非每按一次运算符就立即结算65% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1103221API
curl https://kongchang.com/api/v1/knowledge/claims/1103221MCP
get_claim(id=1103221)