Unverified50% confidenceOpinionExact time

对齐衰减是复利式的，会在一代又一代的迭代中不断叠加

1

Sources

50%

Confidence

Long-term

Relevance

9/28/2026

First Seen

Sources

AI对齐的代际衰减：Noam Brown警示的隐忧

Related Entities

Noam Brownperson 对齐concept

Related Claims

Unverified每次变更都会在消除旧风险的同时引入新的失败模式69% similar Unverified更新规模越大、改动越多，回归性问题（regression）出现的概率越高67% similar Unverified可塑性衰减指随着模型接受越来越多微调更新，其权重逐渐固化，对新信息的响应能力不断下降67% similar Unverified精修方案改善了退化控制，但对比度仍会随时间变差，背景中仍会出现溶解现象，问题未根除66% similar Unverified在同一张图上多次连续编辑时，每次生成引入的微小偏差会被下一次编辑继承并放大，导致误差累积65% similar

Cite This Claim

Stable URI

https://kongchang.com/claim/955118

API

curl https://kongchang.com/api/v1/knowledge/claims/955118

MCP

get_claim(id=955118)