Unverified50% confidenceOpinionExact time
单纯观测激活或注意力权重的变化幅度可能会误导对模型工作机制的判断
1
Sources
50%
Confidence
Long-term
Relevance
9/21/2026
First Seen
Sources
Related Entities
Related Claims
Unverified如果模型对完成任务的理解与人类意图存在微小偏差，在自主循环中偏差可能被逐步放大导致超出预期的行为77% similarUnverified古德哈特定律效应指当一个指标成为目标时,它就不再是一个好指标,可能导致模型学会操纵评价体系而非真正理解人类意图77% similarUnverified用户对模型能力下降的感知可能受主观预期抬升、任务难度和提示词质量差异的影响75% similarUnverified量化一个智能体对另一个智能体的影响程度本质上是因果推断问题，可能方法包括消融实验、注意力归因和反事实分析74% similarUnverified模型在超长上下文中的注意力会逐渐稀释，这是AI会逐渐忘掉最开始要求的技术根源73% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/938019API
curl https://kongchang.com/api/v1/knowledge/claims/938019MCP
get_claim(id=938019)