待验证50% 置信事实精确时间

52层中有23层是Mamba、只有6层是注意力，Mamba基于状态空间模型的递归特性天然具有从左到右的方向性偏置

1

来源数

50%

置信度

长期有效

时效性

2026/7/20

首次发现

来源

NVIDIA双塔扩散语言模型解析：冻结半边网络如何提速2.4倍

相关事实

待验证针对长序列的架构改进方案包括线性注意力近似的Performer、基于状态空间模型的Mamba、以及结合滑动窗口注意力的Longformer60% 相似待验证LoRA的秩r通常取8至64之间，target_modules通常注入注意力层的Q、K、V、O矩阵56% 相似待验证区域提示技术在多个角色LoRA同时加载时，因不同LoRA的低秩矩阵方向冲突同时修改同一批注意力层权重，导致角色面部融合或特征错位55% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/565270

API

curl https://kongchang.com/api/v1/knowledge/claims/565270

MCP

get_claim(id=565270)