Unverified50% confidenceTradeoffExact time
对抗训练存在代价：经过强化的模型在干净样本上的准确率通常会下降，且针对某类攻击的加固可能削弱对其他攻击类型的防御
1
Sources
50%
Confidence
Long-term
Relevance
7/7/2026
First Seen
Sources
反监控时装：对抗样本如何让摄像头认不出你
hackernewshackernews7/5/2026
Related Claims
Unverified2024年的研究表明，即使经过专门的安全对齐训练，主流模型对精心构造的注入攻击的防御成功率仍不足90%78% similarUnverified检测模型与生成模型之间存在持续的军备竞赛，生成质量每提升一代现有检测工具准确率下降74% similarUnverified若竞争对手以更低成本训练出能力相当的模型，原有模型的推理利润窗口期将缩短，使训练投资面临搁浅资产风险74% similarUnverified单纯增加模型参数和训练数据的边际收益正在递减，即'Scaling Law放缓'现象73% similarUnverified在稠密检索中，批内负样本训练要求批次包含有信息量的负样本，随机采样会导致训练损失快速收敛但泛化性能差72% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/204516API
curl https://kongchang.com/api/v1/knowledge/claims/204516MCP
get_claim(id=204516)