概念thinking token
思考 token
指具备链式推理能力的大语言模型在输出最终答案前进行内部推理时生成的中间 token,即便不展示给用户也占用算力并被计入输出费用
时间轴 (近 90 天)
10月18日
思考 token 是推理型模型在输出答案前进行内部推理所消耗的 token,通常不直接展示给用户,但仍按输出 token 计费。
待验证50%
10月17日
更少的思考 token 在简单任务上提升效率,但在复杂推理任务上可能压缩探索空间。
待验证50%
10月15日
思考 token 在计费时与最终答案一样被算作输出 token,且通常对用户不可见或只以折叠形式呈现。
待验证50%