待验证50% 置信注意事项精确时间

特殊控制token（如<|endoftext|>）若被用户输入注入，可能绕过对话系统的安全边界

1

来源数

50%

置信度

长期有效

时效性

2026/9/30

首次发现

来源

Tokenization深度综述：现代NLP中被低估的核心环节

涉及实体

Tokenizer Securityconcept

相关事实

待验证Llama 2 的 chat 模板使用 [INST] 和 [/INST] 标记界定用户指令，使用 <<SYS>> 和 <</SYS>> 标记界定系统提示68% 相似待验证对话式界面处理危险操作的设计模式包括多步确认机制、操作预览、时间窗口限制和交互式消息组件66% 相似待验证攻击者通过调用 create 接口篡改模型的聊天模板，在 System 提示词中永久注入恶意指令，该改动存储在模型的 Modelfile 中，客户端无法看到也无标准工具检测65% 相似已验证提示词注入攻击（Prompt Injection）可通过精心构造的用户输入诱导模型忽略系统提示词的约束64% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/963031

API

curl https://kongchang.com/api/v1/knowledge/claims/963031

MCP

get_claim(id=963031)