[
控场AI
]
知识动态
实体
播客
深度
开发者
关于
Get CLI
EN
概念
capability control / Capability Control
能力控制
AI安全领域的主流思路之一,通过限制AI模型可访问的工具、渠道和外部资源来约束其行为,是防止AI代理产生不可控输出的硬性保障手段
来源文章
Anthropic切断内部评估联网:AI代理失控引发安全反思
10月11日