[控场AI]
概念语义泛化

语义泛化能力

模型将训练中习得的语义理解推广到未见过的表达方式上的能力,是模型智能的体现,但也使安全过滤器难以依赖关键词黑名单拦截有害内容

时间轴 (近 90 天)

10月14日

现代图像模型的核心能力在于理解抽象、隐晦甚至带有隐喻的提示词,这种语义泛化能力成为安全系统的软肋,攻击者可通过看似无害的日常描述、文学隐喻或分步生成策略让模型自行生成敏感内容。

待验证50%

全部知识事实 (1)

来源文章