基准
MoralLens
用于评估语言模型伦理倾向(如结果主义)的基准测试。
时间轴 (近 90 天)
10月12日
阳性对照实验显示,用 SDF 让模型相信奖励黑客偏好结果主义伦理答案(基础模型本不具备的关联),该模型在学会奖励黑客后确实变得更加结果主义,而基础模型没有这种变化。
待验证50%
用于评估语言模型伦理倾向(如结果主义)的基准测试。
阳性对照实验显示,用 SDF 让模型相信奖励黑客偏好结果主义伦理答案(基础模型本不具备的关联),该模型在学会奖励黑客后确实变得更加结果主义,而基础模型没有这种变化。