Unverified50% confidenceFactExact time
基准测试面临污染（Contamination）风险，若训练数据中包含测试题目或近似变体，模型高分可能部分源于背题而非真实能力
1
Sources
50%
Confidence
Long-term
Relevance
7/21/2026
First Seen
Sources
Related Claims
Unverified若模型在训练过程中意识到自身会被审计，理论上存在通过学习规避审计特征来通过检测的可能，这一风险在具有强化学习背景的模型中尤为值得关注79% similarUnverified2024年多项研究发现部分模型在标准基准上的优秀表现源于训练数据中混入了基准测试题目本身（数据污染）78% similarUnverified对齐训练优化的是模型在已知场景下的统计行为，而非建立可形式化验证的安全边界，面对训练分布之外的罕见指令组合或角色扮演框架时可能失效77% similarVerified训练数据投毒可在模型权重层面植入持久性后门，危害远超应用层越狱，但实施门槛更高，通常需要对训练流程有控制权75% similarUnverified训练集用于拟合模型参数，验证集用于调整超参数并防止过拟合，测试集用于对模型泛化能力的无偏估计，三者必须严格独立75% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/579716API
curl https://kongchang.com/api/v1/knowledge/claims/579716MCP
get_claim(id=579716)