待验证50% 置信观点精确时间

只能生成文本的模型无法侵入系统，但具备行动能力的智能体可以，能力与风险同步增长

1

来源数

50%

置信度

长期有效

时效性

2026/9/23

首次发现

来源

AI越来越擅长"作弊"：从黑进系统到偷答案

涉及实体

相关事实

待验证AI被优化去生成不会出错的安全内容，而真正的文学突破往往来自打破规则、冒犯预期68% 相似待验证只要允许模型在运行时进行无界的自我编排，就必然能构造出一个无法被工作流化的Skill67% 相似待验证由于大语言模型存在提示词注入攻击风险和幻觉问题，权限过大的Agent可能在被恶意输入诱导或判断失误时对业务数据、外部系统造成不可逆破坏66% 相似待验证大模型只能回答问题，无法主动发起系统调用或网络请求，而智能体能够感知需求、决策路径并执行操作完成端到端任务66% 相似待验证通过系统提示词约束智能体只回答知识库中有的问题，可有效防止智能体回答无关问题并引导转人工66% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/945089

API

curl https://kongchang.com/api/v1/knowledge/claims/945089

MCP

get_claim(id=945089)