Unverified50% confidenceFactExact time

MLP层充当模型的长期事实记忆库，其键值对是预训练阶段固化在权重中的静态参数

1

Sources

50%

Confidence

Long-term

Relevance

8/8/2026

First Seen

Sources

How Transformers Think and Store Facts: A Detailed Guide to Mechanistic Interpretability

Related Claims

Unverified上下文图谱为智能体提供了介于临时上下文和模型权重微调之间的中间层记忆机制，可在不改变底层模型的前提下持续积累经验73% similar Verified当模型训练数据包含评测集题目或高度相似内容时，模型可能通过记忆而非真正理解获得高分72% similar Unverified潜在缓存技术将LLM推理中的KV Cache思想迁移至训练阶段，对轨迹历史帧预先提取潜在表示并缓存71% similar

Cite This Claim

Stable URI

https://kongchang.com/claim/705785

API

curl https://kongchang.com/api/v1/knowledge/claims/705785

MCP

get_claim(id=705785)