[
控场AI
]
知识动态
实体
播客
深度
开发者
关于
Get CLI
EN
概念
对抗性检查 / 对抗性审视
Adversarial Checking
借鉴对抗样本研究,让模型以攻击者视角审视自身输出以暴露漏洞、事实错误或安全隐患的防护方法,常见实现包括自我批判、红队提示和多轮辩论
来源文章
AI Agent工具权限设计:为什么限制要设在提示词之外
10月17日