agentverify
开源的安全验证工具,用于捕获AI代理的数据泄露。通过独立进程的MCP工具服务器和强制执行代理,验证代理的实际副作用而非文本输出,约200行零依赖的Python实现。
时间轴 (近 90 天)
验证AI Agent安全门禁是否生效,不应询问Agent自身(可能已被注入),而应通过检查副作用(如文件是否被写入、网络字节是否外流)来验证。
agentverify 通过读取沙箱状态而非代理叙述来验证副作用是否发生,不信任代理输出的任何信息
agentverify 对(模型、提示词、工具 schema、策略)做哈希指纹,一旦变化自动重新验证并标明回归部分
agentverify 是一个约200行、零依赖的 Python 开源工具,用于捕获 AI 代理在输出测试盲区中的数据泄露等副作用
agentverify 作者自述其不是新颖能力也不是生产级安全控制,定位于参考实现和教学工具
agentverify 仓库零依赖,需 Python 3.10+ 即可运行,通过 git clone 和 PYTHONPATH 模块调用执行验证
agentverify 每次运行写出签名的、可重放的 evidence.json 文件
全部知识事实 (7)
验证AI Agent安全门禁是否生效,不应询问Agent自身(可能已被注入),而应通过检查副作用(如文件是否被写入、网络字节是否外流)来验证。
50%待验证agentverify 通过读取沙箱状态而非代理叙述来验证副作用是否发生,不信任代理输出的任何信息
50%待验证agentverify 对(模型、提示词、工具 schema、策略)做哈希指纹,一旦变化自动重新验证并标明回归部分
50%待验证agentverify 是一个约200行、零依赖的 Python 开源工具,用于捕获 AI 代理在输出测试盲区中的数据泄露等副作用
50%待验证agentverify 作者自述其不是新颖能力也不是生产级安全控制,定位于参考实现和教学工具
50%待验证agentverify 仓库零依赖,需 Python 3.10+ 即可运行,通过 git clone 和 PYTHONPATH 模块调用执行验证
50%待验证agentverify 每次运行写出签名的、可重放的 evidence.json 文件
50%