待验证50% 置信事实精确时间
2023年Gu和Dao提出Mamba,引入输入依赖的选择性机制(selective scan),在保持线性时间复杂度的同时获得与Transformer相当甚至更优的语言建模性能
1
来源数
50%
置信度
长期有效
时效性
2026/8/6
首次发现
来源
相关事实
待验证Mamba状态空间模型由Albert Gu和Tri Dao于2023年提出,推理时计算复杂度和显存占用均为O(1)68% 相似已验证Mamba 等基于状态空间模型(SSM)的架构以线性复杂度实现序列建模,更适合实时推理62% 相似待验证Mamba的关键创新在于引入选择性机制,让矩阵B和C依赖于输入内容动态变化,使模型能根据当前输入选择性记忆或遗忘历史信息62% 相似待验证自动提示工程(APE)技术由Zhou等人在2022年提出,核心思想是利用大语言模型本身来搜索最优的指令表述方式61% 相似待验证Mamba训练时前向传播可通过并行扫描算法在O(N)时间内完成,但需保存中间结果供反向传播使用,带来O(N)额外内存开销61% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/697005API
curl https://kongchang.com/api/v1/knowledge/claims/697005MCP
get_claim(id=697005)