证据系统

Reddit上一位开发者提出的“证据系统”思路，要求AI代理的每一次实质性改动都必须附带可独立复核的证据链，而不是结论本身。

证据系统要求AI代理提交的证据至少包含规格映射、验证器输出、反例搜索记录和不确定性的显式声明四个层次。

证据系统的核心机制是“举证责任倒置”：不是人类去证明AI错了，而是AI必须先证明自己有理由被认为对。

部分讨论者认为证据系统会增加代理的“仪式性负担”：代理可能学会生成形式上完整、实质上空洞的证据，形成新的“证据vibes”。

缓解证据系统“仪式性负担”风险需要制度性设计：证据模板由人类预先固定而非由代理生成；验证器调用需记录命令、版本、输入哈希以确保第三方可独立重放；关键证据应来自与生成代理不同的工具或模型以形成交叉检验。

证据系统的可信度不取决于证据的数量，而取决于其可复现性与独立性。

据单一来源的观察，该开发者的实践还强调证据的持久化：每次代理交互的证据都存档，形成可回溯的决策历史，使“为什么当时接受了这个改动”成为可查询的记录。