待验证85% 置信事实时间未知
Petri是Anthropic开发的一款开源工具，专门用于测试和评估AI模型的对齐表现
1
来源数
85%
置信度
长期有效
时效性
2026/5/31
首次发现
来源
Anthropic捐赠AI对齐工具Petri给Meridian Labs：开源安全评估新格局
twitterAnthropicAI
涉及实体
相关事实
待验证Petri在AI安全技术体系中属于评估环节，不负责训练模型，而是在模型训练完成后系统性地检验对齐效果80% 相似待验证Veta是一款专为Android平台设计的开源AI测试Agent，只需用自然语言描述测试目标即可自主规划、执行、验证并生成报告70% 相似待验证Veta会为每次测试生成完整的action trace（操作轨迹），包含屏幕截图、LLM推理输出、执行操作指令及断言验证结果59% 相似待验证OpenAI引入激活探针等监控升级，作为机械可解释性研究的工程化应用来检测潜在有害意图59% 相似待验证朱雀检测工具采用类似生成对抗网络（GAN）判别器的架构，通过人工标注的真人写作与AI生成样本进行有监督训练57% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/12272API
curl https://kongchang.com/api/v1/knowledge/claims/12272MCP
get_claim(id=12272)