待验证60% 置信事实精确时间

170k tokens场景下，注意力得分矩阵在BF16精度下约需54GB显存（170000×170000×2字节）

2

来源数

60%

置信度

长期有效

时效性

2026/8/10

首次发现

来源

DeepSeek V4 Flash实测：120M Token仅花3美元的秘密

相关事实

待验证Qwen3-27B的16个全注意力层每层拥有4个KV头、256的头维度，在16位精度下每个Token占用64KB76% 相似已验证序列长度为4096时，N×N注意力矩阵在FP16精度下仅此一项就消耗约64MB显存76% 相似待验证128K上下文窗口的注意力矩阵规模是32K窗口的16倍73% 相似待验证128K长度的序列所需的注意力计算量是4K长度序列的1024倍73% 相似已验证以70B参数模型、FP16精度、32层注意力头为例，单条200K长度请求的KV Cache约需80-120GB显存，远超单张A100 GPU的80GB显存上限71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/727004

API

curl https://kongchang.com/api/v1/knowledge/claims/727004

MCP

get_claim(id=727004)