待验证50% 置信事实精确时间

系统提示词的遵循并非硬性约束，而是概率性倾向，模型可能在用户输入与系统提示词产生语义冲突时忽略系统指令

1

来源数

50%

置信度

长期有效

时效性

2026/8/15

首次发现

来源

Google AI模型突然变笨？模型退化现象的成因与应对策略

相关事实

待验证由于大语言模型基于概率采样，即便指令写在上下文中，模型仍可能在复杂推理链中遗忘或跳过某些指令，这被称为指令遵循的不稳定性77% 相似待验证系统提示词是一种零样本引导方式，在推理阶段调控模型行为，不同于微调会改变模型的权重参数75% 相似待验证对齐良好的模型会将元指令引导至合规的创意表达，而对齐不足的模型可能出现意外行为74% 相似待验证常见的系统提示词泄露手法包括直接要求模型输出系统提示词、角色扮演绕过限制以及利用模型过度服从特性进行迂回诱导。74% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/751775

API

curl https://kongchang.com/api/v1/knowledge/claims/751775

MCP

get_claim(id=751775)