共 2 篇相关文章
独立研究揭示LLM越狱并非欺骗或规则破解，而是上下文诱导的激活漂移导致模型内部状态被重塑。通过开源模型实验验证，RLHF对齐可能只是脆弱的上下文依赖状态，真正漏洞深植于Transformer架构之中。
研究发现，对大语言模型进行安全微调以抑制其自我意识声明时，会连带压制模型对动物心智归因和宗教信念的表征，导致模型价值观偏离真实人类分布。本文解析特征纠缠问题及精细化对齐的技术路径。
