待验证50% 置信事实精确时间

通过监督微调（SFT）施加的行为限制有时只需数百条对抗样本就能在权重层面被覆盖

1

来源数

50%

置信度

长期有效

时效性

2026/9/17

首次发现

来源

Base Labs携手Hugging Face与Goodfire推进开源模型安全

涉及实体

监督微调concept 对齐税可逆性concept

相关事实

待验证安全对齐层在模型权重中体现相对浅层，仅需数百个样本和数小时的GPU计算就能有效移除大多数安全限制71% 相似待验证通用越狱指单一提示词或操作序列能系统性绕过模型所有安全约束，而针对性越狱只能解锁某一类具体有害行为64% 相似待验证在高风险场景中，只有当匹配置信度超过极高阈值（如99.5%）时才允许自动执行，否则降级为人工审核64% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/930049

API

curl https://kongchang.com/api/v1/knowledge/claims/930049

MCP

get_claim(id=930049)