待验证50% 置信事实精确时间
在Transformer中，Q、K、V矩阵由输入序列的隐藏表示分别乘以三个可学习的权重矩阵W_Q、W_K、W_V得到。
1
来源数
50%
置信度
长期有效
时效性
2026/10/31
首次发现
来源
大模型推理瓶颈与KV Cache：核心机制与主流优化方案
bilibili先进编译实验室2026/10/20
涉及实体
相关事实
待验证Q值更新遵循贝尔曼方程迭代形式：Q(s,a) ← Q(s,a) + α[r + γ·max Q(s',a') - Q(s,a)]62% 相似待验证Q 乘以 K 的转置得到 N × N 的相关性矩阵，每个元素代表两个词之间的关系强度62% 相似待验证典型的导纳模型可表达为 M·ẍ + B·ẋ + K·x = F_ext，其中M、B、K分别是期望的虚拟惯量、阻尼和刚度矩阵60% 相似待验证对于冻结的基座矩阵 W0，LoRA 将学习到的更新表示为 W' = W0 + (alpha/r)BA，其中 A 和 B 是可训练的紧凑矩阵，秩 r 远小于原矩阵维度60% 相似待验证Attention 采用 QKV 框架，每个 Token 的 Embedding 经三个线性变换矩阵生成 Query、Key、Value 向量59% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1121452API
curl https://kongchang.com/api/v1/knowledge/claims/1121452MCP
get_claim(id=1121452)