待验证50% 置信事实精确时间
该模型窗口承诺支持约百万级 token，但底层 KV 池实际只能容纳 681,280 个 token。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/31
首次发现
有效期至：2027/1/29
来源
Cloudflare 200 OK 泄漏事件：155次回答串数据
youtubeSwarmAgent2026/10/27
涉及实体
相关事实
已验证对于典型 7B 参数模型，每 1K token 的 KV Cache 约需 0.5–1GB 显存77% 相似待验证大多数模型的单次输出上限在4000到8000 Token之间，部分高端模型支持到32000 Token75% 相似已验证以LLaMA-2 70B模型为例，2048 token的序列需约4GB显存仅用于KV缓存71% 相似待验证在 i7-100 上跑 Llama 3.1 8B 模型时，SGLang 大概 16200 tokens/s，vLLM 大概是 12500 tokens/s，差了约 30%。70% 相似待验证实验中，输入平均仅 3.1K tokens，尽管上下文窗口超过 100K tokens。70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1119350API
curl https://kongchang.com/api/v1/knowledge/claims/1119350MCP
get_claim(id=1119350)