待验证50% 置信基准精确时间

该方案的预填充吞吐随提示词长度增加而提升，从短提示词约290 token/s攀升至约1300 token/s，平均预填充吞吐约900 token/s

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/10/3

首次发现

有效期至：2027/1/1

来源

单卡7900XTX跑84GB大模型：解码破百token实测与调优解析

涉及实体

千问3.8 Flash Nextmodel

相关事实

待验证Token计费按输入与输出总量计算，对话越长每次调用都在为越来越臃肿的历史额外买单72% 相似待验证每次重试都会重新发送完整的 prompt 输入 token 并被全额计费，一个 4000 输入 token 的请求重试 3 次会消耗 16000 个 token70% 相似待验证Prompt Caching在提示词前缀完全相同且超过约1024 token阈值时命中，缓存token通常按原价的25%甚至更低计费70% 相似待验证在Pi里说一句你好只占用约1100的上传Token，仅消耗上下文窗口的千分之四；而在Codex里打招呼要消耗18000 Token，约占7%的上下文窗口69% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/970256

API

curl https://kongchang.com/api/v1/knowledge/claims/970256

MCP

get_claim(id=970256)