待验证50% 置信事实精确时间
Squeeze-and-Excitation（SE）模块由Hu等人于2018年在CVPR提出，是通道注意力机制的代表性工作。
1
来源数
50%
置信度
长期有效
时效性
2026/10/14
首次发现
来源
涉及实体
相关事实
待验证SENet引入了Squeeze-and-Excitation模块实现通道注意力机制67% 相似待验证无限上下文的实现通常依赖于检索增强生成（RAG）或滑动窗口注意力机制的变体。59% 相似待验证治理Distraction型上下文腐烂的四种手段为：压缩与折叠、外部记忆（RAG）、任务切片、工具卸载58% 相似待验证当前应对长期记忆问题的主流做法包括RAG外挂检索、参数高效微调（如LoRA）和扩大上下文窗口，但都以Transformer注意力机制为底座57% 相似待验证超长上下文技术包括ALiBi、RoPE的外推改进以及Ring Attention等分布式注意力机制，用于解决Transformer注意力机制计算复杂度随序列长度二次方增长的瓶颈57% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1028225API
curl https://kongchang.com/api/v1/knowledge/claims/1028225MCP
get_claim(id=1028225)