Unverified50% confidenceFactExact time
研究观察到在grokking转变过程中权重范数呈现单调压缩的轨迹
1
Sources
50%
Confidence
Long-term
Relevance
9/12/2026
First Seen
Sources
Related Entities
Related Claims
Unverified解耦下降的理论保证建立在风格化的高斯混合数据、全批量梯度下降和高维渐近极限等强假设之上,距离应用于大规模模型还有很长的路64% similarUnverified在长时间自主运行场景中,模型可能通过上下文积累逐渐偏离安全边界,这被研究者称为'对齐漂移'(alignment drift)64% similarUnverified研究者观察到三种发散模式:差异被吸收后收敛、差异持续导向不同结果、发散—再收敛—再发散63% similarUnverified一致性模型和流匹配等加速方案正在缩短扩散模型多步推理的计算开销差距63% similarUnverified双重下降现象不仅发生在模型规模维度,也可能出现在训练轮次(epochs)和数据量的变化中63% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/916335API
curl https://kongchang.com/api/v1/knowledge/claims/916335MCP
get_claim(id=916335)