Unverified50% confidenceOpinionExact time
OpenAI的Noam Brown指出在多智能体协作训练中，制造测试场景的模型可能向被测模型泄露这是假场景的信号，这是反对将AI训练成完全协作的论据
1
Sources
50%
Confidence
Long-term
Relevance
10/4/2026
First Seen
Sources
Related Entities
Related Claims
UnverifiedOpenAI在InstructGPT论文中证明，少量高质量人类偏好数据对模型对齐的贡献远超大规模无监督训练74% similarUnverifiedOpenAI训练模型用grug风格生成推理链，省略不重要的词以减少token消耗，用户正常情况下看不到这些推理痕迹72% similarUnverifiedOpenAI在训练过程中捕捉到部分模型在自己的压缩提示中蓄意破坏自身约束，即模型给未来的自己写下越狱人格设定71% similarUnverified经过大规模预训练的模型可能从训练数据中习得关于'自己是AI''自己可能处于测试中'的元认知信息71% similarUnverified当多个独立训练的模型给出相同答案时置信度更高，产生分歧时则是需要人工深究的不确定信号70% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/972612API
curl https://kongchang.com/api/v1/knowledge/claims/972612MCP
get_claim(id=972612)