待验证50% 置信概念精确时间

Continuum Attention（CA）是一种新的注意力机制，将 key-value 存储视为连续的分段线性记忆曲线，而非离散的点集，通过积分和插值以闭式解计算归一化的注意力输出。

1

来源数

50%

置信度

长期有效

时效性

2026/10/15

首次发现

来源

Continuum Attention：连续注意力机制挑战Softmax

rss2026/10/14

涉及实体

Continuum Attentionconcept Transformerconcept

相关事实

待验证注意力层作为信息路由器在不同序列位置间聚合上下文，其键值是从提示中其他token动态派生的短期记忆表示72% 相似待验证常见的模型改进注意力机制模块包括SE注意力机制、CBAM通道与空间注意力、ECA高效通道注意力67% 相似待验证Continuum Attention 保留了与标准注意力相同的二次序列复杂度，并非效率优化方案，而是理论范式的探索。66% 相似待验证混合线性注意力（HLA）模型在部分层保留标准注意力、在其余层使用线性注意力，兼顾局部精确检索与长程记忆。66% 相似待验证密集注意力层需要完整的KV Cache，而线性层则依赖隐状态66% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1037963

API

curl https://kongchang.com/api/v1/knowledge/claims/1037963

MCP

get_claim(id=1037963)