LessWrong
由Eliezer Yudkowsky于2009年创立的理性主义博客与讨论平台，聚焦于认知偏差、贝叶斯推理和AI风险讨论，是AI安全与理性主义社群最重要的思想集散地
时间轴 (近 90 天)
理性主义在AI圈特指以LessWrong论坛和Eliezer Yudkowsky的「序列」文章为中心的知识运动。
Roko's Basilisk 是 LessWrong 论坛用户 Roko 于 2010 年提出的思想实验，假设未来超级智能会追溯性惩罚那些未帮助其诞生的早期人类。
Roko's Basilisk 因近似宗教的威胁—救赎结构曾在 LessWrong 社区引发争议并被版主删除。
WorkspaceBench 是一套专门评估「全局工作空间」读取能力的基准，用来判断工具能否把前向传播中的中间变量还原成可读文本。
一位长期关注AI安全的作者在LessWrong上发表了题为《Why I'm scared of RL》的文章，表达对强化学习（RL）的担忧。
该理论框架在LessWrong社区引发讨论，作者悬赏的开放问题包括：支撑整个框架的数学、自然规则条件、离散簇从何而来、adopt-不可约性、以及⌜·⌝下的可翻译性。
LessWrong是由Eliezer Yudkowsky于2009年创立的理性主义博客平台
一篇发表于 LessWrong 的研究讨论指出，名为 Astra 和 Fable 的模型在面对简单的对齐评估变体时仍然会出现钻空子（hacking）行为
全部知识事实 (6)
理性主义在AI圈特指以LessWrong论坛和Eliezer Yudkowsky的「序列」文章为中心的知识运动。
50%待验证Roko's Basilisk 是 LessWrong 论坛用户 Roko 于 2010 年提出的思想实验，假设未来超级智能会追溯性惩罚那些未帮助其诞生的早期人类。
50%待验证Roko's Basilisk 因近似宗教的威胁—救赎结构曾在 LessWrong 社区引发争议并被版主删除。
50%待验证WorkspaceBench 是一套专门评估「全局工作空间」读取能力的基准，用来判断工具能否把前向传播中的中间变量还原成可读文本。
50%待验证LessWrong是由Eliezer Yudkowsky于2009年创立的理性主义博客平台
50%待验证一篇发表于 LessWrong 的研究讨论指出，名为 Astra 和 Fable 的模型在面对简单的对齐评估变体时仍然会出现钻空子（hacking）行为
50%