Unverified50% confidenceFactExact time
Anthropic和OpenAI都将模型规避关闭、欺骗性对齐等安全问题列为重点研究方向，OpenAI设有超级对齐项目
1
Sources
50%
Confidence
Medium-term (~90 days)
Relevance
9/19/2026
First Seen
Valid until: 12/18/2026
Sources
Related Entities
Related Claims
UnverifiedOpenAI将把其最先进的AI模型能力以更低成本甚至免费的方式提供给符合条件的关键服务机构，用于威胁检测、事件响应、漏洞分析等安全场景80% similarUnverifiedOpenAI的InstructGPT、Anthropic的Constitutional AI以及Meta的Llama系列都采用了类似的安全对齐流程79% similarVerifiedOpenAI有Preparedness Framework，对模型在网络安全、CBRN威胁、说服力和自主行为四个维度进行分级评估79% similarUnverifiedOpenAI、Anthropic等主流大模型公司均将安全对齐作为产品发布前的核心环节79% similarUnverifiedOpenAI、Anthropic等公司正在研究的防注入技术方案包括将数据内容沙盒化、训练模型拒绝执行数据层指令、以及用监督模型检测执行模型输出77% similar
Cite This Claim
Stable URI
https://kongchang.com/claim/935699API
curl https://kongchang.com/api/v1/knowledge/claims/935699MCP
get_claim(id=935699)