Unverified50% confidenceCautionExact time
在避障任务中若碰撞惩罚过重而前进奖励不足，智能体会学会停下来不动作为局部最优解
1
Sources
50%
Confidence
Long-term
Relevance
8/20/2026
First Seen
Sources
Related Claims
Unverified提示级护栏（仅通过系统提示词约束智能体行为）本质上是脆弱的，更可靠的方向是在工具调用级别进行强制管控67% similarUnverified多目标优化中辅助损失项的权重平衡是核心挑战，过强的辅助约束会干扰主任务收敛，过弱则形同虚设67% similarUnverified不适合需要实质制止攻击者的高危场景，报警器只能吸引注意和争取逃跑时间，无法替代防狼喷雾或专业防身训练67% similarUnverified上手门槛低但精通有难度，初期反复失败掉落可能让耐心不足的人很快失去兴趣67% similarUnverified状态丢失是长期任务中最隐蔽的失败原因，它不会抛出错误，只会悄无声息地让Agent偏离轨道66% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/778961API
curl https://kongchang.com/api/v1/knowledge/claims/778961MCP
get_claim(id=778961)