待验证50% 置信事实精确时间

论文提出为防止大语言模型声称拥有意识而进行的安全微调会意外改变模型对'心智'的整体表征，扭曲其对人类信仰与价值观的建模

1

来源数

50%

置信度

长期有效

时效性

2026/8/5

首次发现

来源

安全对齐的副作用：抑制AI意识声明如何意外改变模型价值观

相关事实

待验证作者认为选择卷积神经元作为切入点可能是策略失误，因为当前可解释性研究热点已转向大语言模型，并表示后续将转向语言模型研究73% 相似待验证当需求存在逻辑矛盾或业务知识缺失时，大语言模型因缺乏真实世界反馈机制存在产生幻觉（Hallucination）的风险72% 相似待验证大语言模型在生成摘要时天然倾向于反映评论中的多数意见，可能将低频的安全警告边缘化72% 相似待验证大语言模型存在幻觉问题，即生成听起来合理但实际错误的医学信息，是医疗应用中必须抑制的核心风险71% 相似待验证大语言模型在涉及高度专业的化学、生物或网络安全操作时，极易产生听起来可信但存在关键错误的幻觉输出71% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/690524

API

curl https://kongchang.com/api/v1/knowledge/claims/690524

MCP

get_claim(id=690524)