待验证50% 置信事实精确时间
丹尼尔在OpenAI参与过危险能力评估，测试AI的网络攻击能力、说服能力和情境感知能力
1
来源数
50%
置信度
长期有效
时效性
2026/8/15
首次发现
来源
相关事实
待验证OpenAI有Preparedness Framework，对模型在网络安全、CBRN威胁、说服力和自主行为四个维度进行分级评估77% 相似待验证OpenAI的InstructGPT、Anthropic的Constitutional AI以及Meta的Llama系列都采用了类似的安全对齐流程73% 相似待验证OpenAI主要依赖RLHF（基于人类反馈的强化学习），而Anthropic的Constitutional AI代表方法论上的分野，追求安全原则的显式化与可解释性72% 相似待验证OpenAI通过增加分类器（classifiers）作为安全补丁，在用户查询前后分别设置AI保镖模型进行安全检查71% 相似待验证OpenAI showcased an example of a user discovering a critical vulnerability in Reactor through Codex, marking AI's transition from passive assistance to active discovery in real-world security auditing.70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/749618API
curl https://kongchang.com/api/v1/knowledge/claims/749618MCP
get_claim(id=749618)