待验证50% 置信事实精确时间
大模型的推理指模型训练完成后接收用户输入并生成输出的过程，是按请求计费的在线服务。
1
来源数
50%
置信度
长期有效
时效性
2026/10/23
首次发现
来源
DeepSeek开源推理框架Deepinflow：AI价格战打到后厨
bilibili金角卢桦2026/10/23
涉及实体
相关事实
部分验证Prompt（提示词）是用户或系统向大模型输入的指令文本，决定模型理解任务的方式与输出质量。74% 相似待验证用户一次请求实际消耗的token量包括输入的全部上下文（含历史对话、系统提示、工具定义等）以及模型生成的回复内容73% 相似待验证推理引擎是介于训练好的模型权重与最终用户请求之间的一层软件系统，负责加载计算图、管理 KV Cache、调度请求批处理、选择并融合底层算子。71% 相似待验证商业化大模型服务会在用户可见对话之外附加系统提示，用于设定模型角色、行为规范、安全边界及输出风格，系统提示随每次API请求完整发送至模型71% 相似待验证工具由模型决定何时调用，资源由客户端或用户选择读取，提示通常由用户显式触发，这种划分影响权限设计。71% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1088548API
curl https://kongchang.com/api/v1/knowledge/claims/1088548MCP
get_claim(id=1088548)