待验证50% 置信事实精确时间

MoDA是一种在Transformer架构中根据内容重要性动态分配计算资源的注意力机制，允许部分token跳过某些层的注意力计算

1

来源数

50%

置信度

长期有效

时效性

2026/10/8

首次发现

来源

有界自主与可验证安全：Agentic AI在高风险场景的治理框架BRaVeS

涉及实体

MoDAtechnology Transformertechnology

相关事实

待验证从PCA降维到Transformer的注意力机制都依赖矩阵运算和向量空间变换73% 相似待验证GPU注意力内核负责执行Transformer架构中的自注意力机制73% 相似待验证Sage Attention是一种针对Transformer注意力机制的优化技术，通过量化键值对和优化内存访问模式降低显存开销72% 相似待验证在Transformer架构中，注意力层负责信息的路由和组合，而前馈网络层倾向于充当键值记忆体存储事实知识71% 相似待验证注意力机制中权重完全由数据驱动、可学习，这是Transformer超越早期RNN架构的关键原因之一69% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/986768

API

curl https://kongchang.com/api/v1/knowledge/claims/986768

MCP

get_claim(id=986768)