待验证50% 置信事实精确时间

对齐训练优化的是模型在已知场景下的统计行为，而非建立可形式化验证的安全边界，面对训练分布之外的罕见指令组合或角色扮演框架时可能失效

1

来源数

50%

置信度

长期有效

时效性

2026/7/20

首次发现

来源

Claude遭提示注入攻击：AI安全新盲区与防御指南

相关事实

待验证单纯堆砌参数而训练数据不足会导致模型大而不强，参数跃升需配合同步扩大的训练语料与算力才能兑现能力增益81% 相似待验证实验表明按由易到难顺序喂给模型训练样本能加速收敛并学到更鲁棒的特征表示，性能优于随机打乱顺序的训练79% 相似待验证训练集用于拟合模型参数，验证集用于调整超参数并防止过拟合，测试集用于对模型泛化能力的无偏估计，三者必须严格独立79% 相似待验证传统大模型训练高度依赖人工标注数据和外部语料收集，这些步骤通常是制约迭代速度的瓶颈79% 相似已验证训练数据投毒可在模型权重层面植入持久性后门，危害远超应用层越狱，但实施门槛更高，通常需要对训练流程有控制权79% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/566648

API

curl https://kongchang.com/api/v1/knowledge/claims/566648

MCP

get_claim(id=566648)