待验证50% 置信事实精确时间

大语言模型目前没有可靠的内置防御能够在所有情况下识别并拒绝提示注入

1

来源数

50%

置信度

长期有效

时效性

2026/10/5

首次发现

来源

英伟达AI智能体安全平台：硬件级看门狗能挡住什么？

涉及实体

大语言模型concept Prompt Injectionconcept

相关事实

待验证确定性防护无法处理自然语言层面的隐晦风险，是其主要局限78% 相似待验证当前的大语言模型缺乏可靠的自我内省（introspection）能力75% 相似待验证经过安全对齐训练的大语言模型常常表现出过度拒绝（Over-Refusal）行为，错误地拒绝本身无害但表面与安全话题沾边的指令72% 相似待验证确定性防护栏只能处理长得像敏感信息的固定模式内容，无法检测语句通顺但隐晦引导用户走向错误操作的自然语言风险71% 相似已验证没有工具调用能力，大模型只能在语言空间内打转，无法真正影响外部系统71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/978489

API

curl https://kongchang.com/api/v1/knowledge/claims/978489

MCP

get_claim(id=978489)