待验证50% 置信观点精确时间

Brown描述的场景：一个99.9%对齐的模型帮助研发下一代模型，下一代可能只有99.8%对齐，每代衰减一点形成下滑曲线

1

来源数

50%

置信度

长期有效

时效性

2026/9/28

首次发现

来源

AI对齐的代际衰减：Noam Brown警示的隐忧

涉及实体

Noam Brownperson

相关事实

待验证LLM新模型的平均评估指标可能优于旧模型，但会在小众关键场景中出现退化64% 相似待验证Anthropic在2024年的研究中发现，压缩掉80%的系统提示词后，模型表现并未下降64% 相似待验证Gunasekar等人2017年的研究证明，对于线性模型，梯度下降等价于最小范数插值64% 相似待验证研究发现当约束条件从1个叠加至5个时，几乎所有模型的遵循率都出现断崖式下降，大模型更明显64% 相似待验证若每代衰减0.1%，经过100代迭代后对齐度约为90.5%，经过1000代则跌至约37%64% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/955117

API

curl https://kongchang.com/api/v1/knowledge/claims/955117

MCP

get_claim(id=955117)