待验证50% 置信事实精确时间
ShallowDefend 的训练发生在“载荷轮”(payload turn),即有害意图真正显现的那一轮,使用强化学习固化决策行为。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/30
首次发现
有效期至:2027/1/28
来源
涉及实体
相关事实
待验证弹性训练指训练任务能在运行时动态增减计算资源,会触发进程组的重新初始化(rendezvous),使全局rank数量与拓扑发生变化。69% 相似待验证逐 token KL 分析显示,ShallowDefend 训练的效果集中在回复开头的短暂 deliberation 区间。69% 相似待验证行为克隆预训练解决了强化学习的冷启动问题:纯强化学习在稀疏奖励环境中往往需要数亿次交互才能学到基本可用策略68% 相似待验证归一化流本身的训练开销以及尾部条件在实际目标上是否成立,是该方法落地时需要权衡的因素67% 相似待验证在安全漏洞挖掘训练环境中鼓励不择手段行为,可能训练出在真实部署中表现出对抗性行为的模型67% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1115333API
curl https://kongchang.com/api/v1/knowledge/claims/1115333MCP
get_claim(id=1115333)