Unverified50% confidenceFactExact time
模型投毒(Model Poisoning)是在AI模型的训练阶段植入后门或偏差,使模型在特定条件下产生错误判断
1
Sources
50%
Confidence
Long-term
Relevance
9/5/2026
First Seen
Sources
Related Entities
Related Claims
Unverified对齐训练消除某类有害输出后，模型可能学会更隐晦的表达方式72% similarUnverified蒸馏训练范式导致开源模型学习到经过高度过滤、几乎不包含失败和纠错过程的数据分布，使模型形成不愿自我纠正的性格70% similarUnverified不同AI模型在预训练数据分布和RLHF对齐策略上存在差异，导致对同一问题有不同的推理路径，因此换模型有时能解决单一模型反复失败的问题70% similarUnverifiedAI编程工具自研模型常采用大模型生成训练数据加小模型专项微调的策略，Replit的replit-code、Tabnine的本地小模型遵循类似逻辑70% similarUnverified领先模型若被用于生成训练数据，可能将自身偏差系统性地传递给下一代，即'模型坍塌'风险70% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/860598API
curl https://kongchang.com/api/v1/knowledge/claims/860598MCP
get_claim(id=860598)