Fabraix是一款面向AI Agent系统的对抗性安全测试工具，旨在通过模拟多种攻击场景发现AI系统中潜在的安全漏洞与隐藏缺陷。其核心功能包括自适应攻击策略生成、AI行为边界探测及安全风险评估，帮助开发者和安全团队在部署前识别并修复AI系统的脆弱性，提升整体可靠性与安全性。
Fabraix是一款由前Meta工程师创建的AI Agent对抗性测试工具
Fabraix内置超过1000种攻击策略，这些策略会根据目标系统的响应实时调整
Fabraix采用纯黑盒测试方式，开发者无需修改代码、接入SDK或暴露内部接口
Fabraix被标记为Y Combinator Application项目，获得YC的关注
AI Agent评估领域正在经历从人工标注到LLM-as-Judge再到主动对抗性测试的三代技术演进
Fabraix的所有对抗性测试都在专用隔离环境中进行，不会影响生产系统的正常运行