待验证50% 置信解决方案精确时间

应将模型输出完全当作不可信的用户输入处理，进行编码、参数化和校验

1

来源数

50%

置信度

长期有效

时效性

2026/10/11

首次发现

来源

LLM应用红队测试：5个高频失败点与安全测试方法

涉及实体

模型输出concept

相关事实

待验证该用户表示模型需要极其详细的提示词，即便提供规范Prompt输出结果依然难以信任74% 相似待验证投机解码在保证输出与原模型完全一致的前提下提升生成吞吐量72% 相似待验证让模型输出准确方案有两条路径：一次性写详细需求，或用追问方式让模型替用户思考并堆积上下文71% 相似待验证工具描述中的description要写清楚，因为模型正是靠它来判断何时调用函数71% 相似待验证应将大模型输出视为外部输入，必须经过完整校验才能进入核心业务，而非当作可信数据71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/998097

API

curl https://kongchang.com/api/v1/knowledge/claims/998097

MCP

get_claim(id=998097)