Unverified50% confidenceFactExact time
2023年Gu和Dao提出Mamba,引入输入依赖的选择性机制(selective scan),在保持线性时间复杂度的同时获得与Transformer相当甚至更优的语言建模性能
1
Sources
50%
Confidence
Long-term
Relevance
8/6/2026
First Seen
Sources
Related Claims
UnverifiedMamba状态空间模型由Albert Gu和Tri Dao于2023年提出,推理时计算复杂度和显存占用均为O(1)68% similarVerifiedMamba 等基于状态空间模型(SSM)的架构以线性复杂度实现序列建模,更适合实时推理62% similarUnverifiedMamba的关键创新在于引入选择性机制,让矩阵B和C依赖于输入内容动态变化,使模型能根据当前输入选择性记忆或遗忘历史信息62% similarUnverified自动提示工程(APE)技术由Zhou等人在2022年提出,核心思想是利用大语言模型本身来搜索最优的指令表述方式61% similarUnverifiedMamba训练时前向传播可通过并行扫描算法在O(N)时间内完成,但需保存中间结果供反向传播使用,带来O(N)额外内存开销61% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/697005API
curl https://kongchang.com/api/v1/knowledge/claims/697005MCP
get_claim(id=697005)