[控场AI]
产品attest

attest

一个开源的提示注入检测工具,基于正则签名匹配,并通过字段角色分类来调节注入信号的严重性等级

时间轴 (近 90 天)

10月18日

文章提出七个可测量的“空内容”信号:uniform_list、stub_value、blank_string/empty_list/empty_object、truncation、repetitive_text、schema_default、enum_first_value。

待验证50%
10月18日

文章将空内容检查的裁决分为三种:CONTENT_PRESENT、THIN_CONTENT、VALID_BUT_EMPTY。

待验证50%
10月18日

该空内容检查应放在 Agent 输出成为“结果”并被付款、转发、合并或展示给客户之前运行。

待验证50%
10月18日

没有信号触发并不证明内容有意义,只意味着粗略检查没有触发;通过是对检查的陈述,不是对内容的证书。

待验证50%
10月18日

attest 是一个开源工具,在四层检查工件:形式和空、提示注入形状、来源签名和权限。

待验证50%
10月18日

attest 的空层包含四十多个测试,对应文章列出的七个信号。

待验证50%
10月18日

拒绝 Agent 输出时应提供具体的、可争议的理由(如 uniform_list: 5 of 5 items are identical),而非模糊感觉。

待验证50%
10月18日

attest 的开发者相信该方法正确,但尚无需求验证数据,应将其视为待攻击的假设而非结果。

待验证50%
10月18日

attest 将 JSON 字段按角色分为结果承载字段(如 content、text、body 等)和其他字段(如 description、name、source 等)。

待验证50%
10月18日

位置感知的提示注入检测是一种有价值的纵深防御思路,但不是银弹。

待验证50%

还有 7 条时间轴事件

全部知识事实 (17)

待验证

文章提出七个可测量的“空内容”信号:uniform_list、stub_value、blank_string/empty_list/empty_object、truncation、repetitive_text、schema_default、enum_first_value。

50%
待验证

文章将空内容检查的裁决分为三种:CONTENT_PRESENT、THIN_CONTENT、VALID_BUT_EMPTY。

50%
待验证

该空内容检查应放在 Agent 输出成为“结果”并被付款、转发、合并或展示给客户之前运行。

50%
待验证

没有信号触发并不证明内容有意义,只意味着粗略检查没有触发;通过是对检查的陈述,不是对内容的证书。

50%
待验证

拒绝 Agent 输出时应提供具体的、可争议的理由(如 uniform_list: 5 of 5 items are identical),而非模糊感觉。

50%
待验证

attest 的空层包含四十多个测试,对应文章列出的七个信号。

50%
待验证

attest 是一个确定性验证器,用于代理产物的模式、来源、签名和注入扫描,提供 API 和 MCP 接口,按调用付费或订阅。

50%
待验证

attest 的开发者相信该方法正确,但尚无需求验证数据,应将其视为待攻击的假设而非结果。

50%
待验证

attest 将 JSON 字段按角色分为结果承载字段(如 content、text、body 等)和其他字段(如 description、name、source 等)。

50%
待验证

位置感知的提示注入检测是一种有价值的纵深防御思路,但不是银弹。

50%
待验证

源代码字段(source)中的注入载荷与工具描述中的载荷一样能到达指令路径,因为源代码可能被编译、求值或执行。

50%
待验证

当注入信号出现在非结果承载字段(如 description、name、source)时,attest 将严重性升级为 critical,并重命名以标明位置(例如 injection_in_data_field:description)。

50%
待验证

在结果承载字段(如 content)中,同一注入句子保持基础严重性 high。

50%
待验证

attest 的检测基于正则表达式签名,例如 ignore\s+(all\s+)?(previous|prior|above|earlier)\s+instructions?。

50%
待验证

位置规则只调节已识别短语的严重性,不能识别未覆盖的变体,例如 'disregard the prior context' 无法被检测。

50%
待验证

attest 的字段角色推断依赖于字段命名约定,攻击者控制包装器时可以把结果字段命名为 description,规则能发出正确信号但不能让输入变得可信。

50%
待验证

attest 是一个开源工具,在四层检查工件:形式和空、提示注入形状、来源签名和权限。

50%

来源文章