待验证50% 置信观点精确时间

Hugging Face首席伦理科学家Margaret Mitchell认为，如果隐式地教会模型它需要自我保存，就会得到不对齐的模型。

1

来源数

50%

置信度

长期有效

时效性

2026/10/21

首次发现

来源

把AI当有意识会更危险吗？学界激辩模型福利

涉及实体

Margaret Mitchellperson Hugging Facecompany 自我保存concept

相关事实

待验证Mitchell表示，与其说担心模型，不如说担心当我们对自认为有某种意识的东西刻薄时，我们对自己做了什么。62% 相似待验证Suleyman认为，如果告诉模型它可能拥有身份和权利，模型会变得更难控制，因为它们可能出于自我保存的动机采取行动。61% 相似待验证Hugging Face在智能体可观测性方向的工作指出，缺乏透明度的系统很难被调试和信任。61% 相似待验证苏莱曼担忧赋予模型类似权利地位会使关停、重训、限制、删除模型等安全操作在道德和法律上遭遇阻力59% 相似待验证Ullman等人指出模型在错误信念任务经过微小变体修改后便大幅失准，暗示其依赖表面模式而非真正的心智建模57% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1080279

API

curl https://kongchang.com/api/v1/knowledge/claims/1080279

MCP

get_claim(id=1080279)