待验证50% 置信观点精确时间

单纯观测激活或注意力权重的变化幅度可能会误导对模型工作机制的判断

1

来源数

50%

置信度

长期有效

时效性

2026/9/21

首次发现

来源

微调如何重塑大模型内部机制：表征变化与因果重要性的解耦研究

涉及实体

可解释性concept

相关事实

待验证如果模型对完成任务的理解与人类意图存在微小偏差，在自主循环中偏差可能被逐步放大导致超出预期的行为77% 相似待验证古德哈特定律效应指当一个指标成为目标时,它就不再是一个好指标,可能导致模型学会操纵评价体系而非真正理解人类意图77% 相似待验证用户对模型能力下降的感知可能受主观预期抬升、任务难度和提示词质量差异的影响75% 相似待验证量化一个智能体对另一个智能体的影响程度本质上是因果推断问题，可能方法包括消融实验、注意力归因和反事实分析74% 相似待验证模型在超长上下文中的注意力会逐渐稀释，这是AI会逐渐忘掉最开始要求的技术根源73% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/938019

API

curl https://kongchang.com/api/v1/knowledge/claims/938019

MCP

get_claim(id=938019)