待验证50% 置信概念精确时间
注意力质量(attention mass)指模型在预测时分配给特定位置(如证据片段)的注意力权重总和占全部注意力权重的比例,可通过读取各层注意力图并聚合到证据token上计算。
1
来源数
50%
置信度
长期有效
时效性
2026/11/4
首次发现
来源
涉及实体
相关事实
待验证头级分数调制指在多头注意力中为每个注意力头分配独立的调制参数或函数,对注意力分数施加不同的变换,而非所有头共享同一套结构注入方式。72% 相似已验证Self-Attention的核心操作是计算查询向量与键向量之间的点积相似度,再以此为权重对值向量进行加权求和72% 相似待验证注意力可视化展示 token 之间的注意力权重分布;激活探针在隐藏层上训练线性分类器检验信息可解码性,属于相关性证据;特征归因衡量输入各维度对输出的贡献大小。70% 相似待验证现有主流稀疏注意力方法通过保留注意力矩阵中数值较大的条目或高质量区域来筛选交互70% 相似待验证常见的模型改进注意力机制模块包括SE注意力机制、CBAM通道与空间注意力、ECA高效通道注意力70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1134068API
curl https://kongchang.com/api/v1/knowledge/claims/1134068MCP
get_claim(id=1134068)