待验证50% 置信决策规则精确时间

实验室将训练规模与潜在风险绑定，规模越大、能力越强，触发的审查门槛越高

1

来源数

50%

置信度

长期有效

时效性

2026/8/31

首次发现

来源

前沿AI实验室暂停RL训练：模型能力越强研发风险越高

涉及实体

前沿AI实验室company

相关事实

已验证训练数据投毒可在模型权重层面植入持久性后门，危害远超应用层越狱，但实施门槛更高，通常需要对训练流程有控制权76% 相似待验证应用层越狱防御必须同时依赖训练阶段的鲁棒性提升和推理阶段的动态监测，单一维度加固效果有限71% 相似待验证对抗训练通过将已知越狱样本纳入训练数据来提升模型对攻击提示的识别与抵抗能力，但面临新型变体的持续挑战71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/827371

API

curl https://kongchang.com/api/v1/knowledge/claims/827371

MCP

get_claim(id=827371)