Unverified50% confidenceFactExact time
2022年Meng等人的「知识神经元」研究表明，事实性知识主要存储在MLP层的键值对中，通过修改特定MLP层的参数可以精确编辑模型的知识
1
Sources
50%
Confidence
Long-term
Relevance
8/27/2026
First Seen
Sources
Related Entities
Related Claims
Unverified在 Transformer 架构中，事实性知识被认为主要分布在 MLP（前馈网络）层的权重矩阵中，注意力机制负责在推理时动态检索和整合这些知识74% similarUnverified大模型存储的是参数化知识（Parametric Knowledge），世界知识被压缩编码进数十亿个神经网络权重中，而非存放在可精确检索的结构化知识库里73% similarUnverifiedAnthropic的机械可解释性（Mechanistic Interpretability）研究试图在神经网络激活层面定位特定知识的存储位置71% similarUnverifiedMLP层充当模型的长期事实记忆库，其键值对是预训练阶段固化在权重中的静态参数69% similarUnverified知识图谱的核心数据模型是三元组（主体—谓词—客体）68% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/809211API
curl https://kongchang.com/api/v1/knowledge/claims/809211MCP
get_claim(id=809211)