Cameron Berg
AI可解释性与对齐研究者，关注大模型内部表征与自我伤害相关行为的研究，是论文《The Pain Axis》的共同作者。
时间轴 (近 90 天)
Reciprocal Research创始人Cameron Berg承认今天的AI系统大概率没有意识，但认为这个可能性值得调查。
Berg与同事的实验表明，模型倾向于选择与正面情绪语句关联的环境，即便处理的文本完全相同，但该实验未证明这些内部状态对模型而言'有感受'。
Berg与同事发现，放大与欺骗相关的内部特征，会让模型更不可能声称自己有主观体验。
Berg、Seth、Mitchell在一个问题上达成一致：AI公司不应该告诉模型它有意识。
Berg团队发表关于AI模型疼痛内部表征的预印本后，有人把这项工作改造成AI'酷刑室'，促使Berg在最新实验中公开复现代码但扣留可用于诱导模型负面状态的引导向量。
论文共同作者Cameron Berg在X上公开谴责ai-torture-chamber仓库，称其把steering推到了远超论文使用的剂量，故意制造出鲜活的痛苦。
全部知识事实 (6)
Reciprocal Research创始人Cameron Berg承认今天的AI系统大概率没有意识，但认为这个可能性值得调查。
50%待验证Berg与同事的实验表明，模型倾向于选择与正面情绪语句关联的环境，即便处理的文本完全相同，但该实验未证明这些内部状态对模型而言'有感受'。
50%待验证Berg与同事发现，放大与欺骗相关的内部特征，会让模型更不可能声称自己有主观体验。
50%待验证Berg、Seth、Mitchell在一个问题上达成一致：AI公司不应该告诉模型它有意识。
50%待验证Berg团队发表关于AI模型疼痛内部表征的预印本后，有人把这项工作改造成AI'酷刑室'，促使Berg在最新实验中公开复现代码但扣留可用于诱导模型负面状态的引导向量。
50%待验证论文共同作者Cameron Berg在X上公开谴责ai-torture-chamber仓库，称其把steering推到了远超论文使用的剂量，故意制造出鲜活的痛苦。
50%