待验证50% 置信事实精确时间
预填充是大语言模型推理的第一阶段，模型把用户输入的整段提示词一次性读入，为每个token计算键值向量并存入显存。
1
来源数
50%
置信度
长期有效
时效性
2026/10/21
首次发现
来源
涉及实体
相关事实
已验证大型语言模型的上下文本质上是模型在单次推理中能够处理的全部信息总量，通常以 Token 数量衡量75% 相似已验证大语言模型推理分预填充和解码两阶段：预填充是计算密集型对GPU算力敏感，解码是内存带宽受限任务74% 相似待验证大语言模型的推理过程分为预填充（Prefill）和解码（Decode）两个阶段，注意力机制的计算复杂度为O(n²)73% 相似待验证上下文工程指系统性地设计、筛选和组织输入给大语言模型的信息，使模型在有限的上下文窗口内获得最高质量的参考材料71% 相似待验证OpenWhispr的听写模式会用大语言模型对转录内容做智能润色，例如自动整理成项目符号列表并清理口语冗余表达71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1081837API
curl https://kongchang.com/api/v1/knowledge/claims/1081837MCP
get_claim(id=1081837)