待验证50% 置信注意事项精确时间

通过LoRA等参数高效微调方法，恶意行为体仅需少量计算资源和数据即可移除模型内置的安全对齐，使其无条件服从任何指令

1

来源数

50%

置信度

长期有效

时效性

2026/8/28

首次发现

来源

OpenAI揭露俄罗斯AI舆论操纵行动：运作模式与治理挑战

涉及实体

LoRAtechnology 微调technology

相关事实

待验证研究者发现只需微调模型的少量参数就能移除安全对齐（去对齐攻击），且某些越狱提示可在不同模型之间迁移78% 相似待验证通用越狱指单一提示词或操作序列能系统性绕过模型所有安全约束，而针对性越狱只能解锁某一类具体有害行为73% 相似待验证结构化、类型强约束的工具响应可以显著降低模型在解析阶段产生误解的概率72% 相似待验证安全对齐层在模型权重中体现相对浅层，仅需数百个样本和数小时的GPU计算就能有效移除大多数安全限制72% 相似待验证结构化、上下文丰富的提示不仅提升模型输出质量，也能显著降低安全分类器的误触发率71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/811050

API

curl https://kongchang.com/api/v1/knowledge/claims/811050

MCP

get_claim(id=811050)