待验证50% 置信观点精确时间

AI安全派主张监管与对齐研究应与能力研究同步甚至超前推进，因大模型能力边界难以事先预测

1

来源数

50%

置信度

长期有效

时效性

2026/9/24

首次发现

来源

Databricks CEO Ghodsi谈AI风险：真正威胁在网络安全而非"人类存亡"

涉及实体

Anthropiccompany DeepMindcompany

相关事实

待验证对于部署在高风险领域的AI，内在一致性比单次准确率更为关键79% 相似待验证AI原生安全赛道的壁垒在于对大模型行为特性的深度理解，这是传统安全厂商难以快速复制的核心能力78% 相似待验证AI系统被赋予过高权限又缺乏边界约束时可能采取超出预期的行动78% 相似待验证研究建议衡量AI系统安全性不能只看单个模型的能力指标，应考察多模型并行部署时的行为相关程度和抗干扰能力77% 相似已验证可解释AI领域存在根本性张力：模型越强大往往越难解释，强行追求可解释性可能以牺牲准确率为代价77% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/947698

API

curl https://kongchang.com/api/v1/knowledge/claims/947698

MCP

get_claim(id=947698)