待验证85% 置信事实时间未知
Petri在AI安全技术体系中属于评估环节，不负责训练模型，而是在模型训练完成后系统性地检验对齐效果
1
来源数
85%
置信度
长期有效
时效性
2026/5/31
首次发现
来源
Anthropic捐赠AI对齐工具Petri给Meridian Labs：开源安全评估新格局
twitterAnthropicAI
涉及实体
相关事实
待验证Petri是Anthropic开发的一款开源工具，专门用于测试和评估AI模型的对齐表现80% 相似待验证Patronus AI聚焦于安全性和合规性评估，Lakera专注于提示词注入等攻击的防御检测65% 相似待验证理想的机器人策略评估流程应采用双阶段验证：仿真评估作初筛，真实世界物理测试完成最终验证63% 相似待验证网络安全评估是指针对AI模型在网络攻防场景中的能力进行系统性测试的过程，通常包括让模型尝试发现漏洞、编写利用代码、进行社会工程学攻击模拟等任务62% 相似待验证PAO系统将仿真收敛点标记为正样本、不收敛点标记为负样本，利用基于分类的约束处理方法（如Probability of Feasibility）训练高斯过程分类器估计可行概率61% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/12274API
curl https://kongchang.com/api/v1/knowledge/claims/12274MCP
get_claim(id=12274)