待验证50% 置信事实精确时间

GLOBE框架中，被持续证明有害的行为会被自动停用。

1

来源数

50%

置信度

长期有效

时效性

2026/10/19

首次发现

来源

GLOBE框架：让AI智能体在生成式搜索中自主进化

涉及实体

相关事实

待验证停止指令被改掉是Prompt行为逻辑修改中最危险的情况，Agent会一直运行直到撞上最大迭代上限。58% 相似待验证百炼平台可在常用模型上勾选"免费额度用完计停"，额度耗尽后模型自动停用以避免超额扣费58% 相似待验证Anthropic将客户端循环描述为基于停止原因的while循环：停止原因是tool_use就执行工具并继续，遇到其他停止原因则退出58% 相似待验证挂起机制可以在不销毁环境状态的前提下暂停智能体环境的运行57% 相似待验证督促语应移除因为现代模型已默认具备相关行为，重复要求会浪费算力扰乱判断；硬约束（如'绝不要重复点击发布按钮'）应保留以防止不可逆的错误56% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1065856

API

curl https://kongchang.com/api/v1/knowledge/claims/1065856

MCP

get_claim(id=1065856)