待验证50% 置信事实精确时间
Deformable DETR由清华大学朱学勤团队于2021年提出,通过可变形注意力机制将注意力集中在少量关键采样点,收敛速度提升约10倍
1
来源数
50%
置信度
长期有效
时效性
2026/8/13
首次发现
来源
相关事实
待验证标准贝叶斯优化通过高斯过程代理模型和采集函数指导评估点选择,在超过约20维时效果迅速退化60% 相似待验证Ring Attention、FlashAttention等工程技术对显存占用进行大幅压缩,使长序列推理在商业成本范围内可行60% 相似待验证Unsloth声称其微调工具可将微调速度提升2-5倍同时减少80%的显存占用60% 相似待验证Multi-head Latent Attention通过将KV缓存压缩到低维潜在空间中,大幅降低推理时的显存占用和计算开销60% 相似待验证注意力稀释的根本原因在于Softmax归一化:序列中token越多,每个位置分配到的有效注意力权重随序列长度近似成反比例缩小60% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/740653API
curl https://kongchang.com/api/v1/knowledge/claims/740653MCP
get_claim(id=740653)