待验证50% 置信观点精确时间

将消费上限放在系统提示词中属于软约束，无法在对抗性输入（如提示注入）下提供安全保证

1

来源数

50%

置信度

长期有效

时效性

2026/10/13

首次发现

来源

12个AI Agent框架安全调查：无一能按美元限制Agent消费

相关事实

待验证纯提示词方案存在脆弱性与不可复现性、扩展性差、用户负担重、无状态性四大局限73% 相似待验证提示注入目前没有一劳永逸的解决方案，护栏只能降低风险而非根除，在敏感操作场景中需叠加权限控制与人工审核等纵深防御措施72% 相似待验证部分平台对自动化批量提交有明确规则限制，提交质量过低或大量重复可能触发反滥用机制且不获奖励71% 相似待验证任何固定算力预算下的通过测试只能提供有限的安全保证，因为失控行为的可发现性与算力正相关71% 相似待验证提示词约束属于软约束，模型输出本质上是概率性的，措辞变化、上下文累积或对抗性输入都可能导致约束失效71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1020734

API

curl https://kongchang.com/api/v1/knowledge/claims/1020734

MCP

get_claim(id=1020734)