待验证70% 置信事实时间未知
HarmBench是专门针对有害内容生成的红队测试基准
2
来源数
70%
置信度
长期有效
时效性
2026/5/31
首次发现
来源
Anthropic捐赠AI对齐工具Petri给Meridian Labs：开源安全评估新格局
twitterAnthropicAI
涉及实体
相关事实
待验证HarmBench 是一个标准化的对抗性攻击评测框架，提供统一的攻击提示集、目标模型接口和成功判定规则。72% 相似待验证HarmBench是CMU团队创建的标准化红队评估框架70% 相似待验证在前沿实验室中，红队测试通常覆盖偏见、toxicity、越狱（jailbreak）、提示注入等风险维度，其结果用于指导对齐微调和发布决策。68% 相似待验证作者建议将红队式安全回归测试纳入CI/CD流水线，测试用例应涵盖已知对抗性攻击模式如越狱提示词、有害内容诱导67% 相似已验证红队测试（Red-teaming）在LLM场景中指系统性地用边界案例、恶意提示、越狱指令等方式探测模型安全边界，测试维度包括提示注入、有害内容生成、隐私泄露、幻觉触发66% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/12278API
curl https://kongchang.com/api/v1/knowledge/claims/12278MCP
get_claim(id=12278)