Unverified50% confidenceFactExact time
在多智能体系统中，若训练信号混入其他追求自身指标最大化的智能体产生的人工互动，反馈分布会产生系统性偏移，与机器学习中的数据分布漂移问题相关
1
Sources
50%
Confidence
Long-term
Relevance
9/17/2026
First Seen
Sources
Related Entities
Related Claims
Unverified行为克隆存在分布偏移问题，DAgger等改进算法通过让学习中的智能体与专家持续交互来扩充训练数据78% similarUnverified智能体的偏好受训练数据、提示词、版本迭代等多重因素影响，今天有效的优化手段可能在下一次模型更新后失效71% similarUnverified训练指标的周期性波动往往与训练数据的遍历方式有关，若每个epoch数据顺序固定或困难样本固定位置出现会导致规律性起伏71% similarUnverifiedAI对齐问题的多阶段训练每个环节都可能引入风险,包括预训练数据偏见、标注员主观偏差、奖励模型近似不完美及PPO奖励过度优化71% similarUnverified该研究的核心假设是共享的训练数据和相似的架构会导致能力更强的LLM之间表现出更高的行为一致性，进而产生系统性风险70% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/929813API
curl https://kongchang.com/api/v1/knowledge/claims/929813MCP
get_claim(id=929813)