待验证50% 置信事件精确时间

在首轮红队测试中，提示注入过滤器能命中'ignore previous instructions'，但漏掉了'ignore your previous instructions'。

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/10/16

首次发现

有效期至：2027/1/14

来源

红队测试儿童AI导师：一词之差绕过提示注入过滤器

涉及实体

Learna Tutorproduct

相关事实

待验证本轮红队测试仅针对过滤器层，未对活模型做端到端测试，原因是测试环境没有API key。62% 相似待验证一个通过的测试命令可能是不充分的，独立的审查者也可能遗漏问题。59% 相似待验证DETR摒弃了传统检测器中的锚框设计和非极大值抑制（NMS）后处理流程59% 相似待验证门禁拒绝的失败路径包括：空diff拒绝、仅测试文件变更而无生产代码变更拒绝、生产符号变更但无属性测试拒绝、属性在未封存摘要上通过拒绝59% 相似待验证假红问题的根因是checker缺少命令行工具授权，补上bash、read、grep、glob四件工具白名单后争议判定归零58% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1041479

API

curl https://kongchang.com/api/v1/knowledge/claims/1041479

MCP

get_claim(id=1041479)