[控场AI]

#AI治理

共 183 篇相关文章

AI风险登记册:构建与维护完整指南
·6 分钟

AI风险登记册:构建与维护完整指南

AI风险登记册是AI风险管理的运营核心。本文详解登记册的核心字段、四步构建方法、持续维护机制以及角色分工,帮助团队建立可落地的AI风险追踪体系。

阅读全文 →
Gemini意外泄露选举内部指南:AI治理难题再现
·3 分钟

Gemini意外泄露选举内部指南:AI治理难题再现

Google Gemini在用户对话中意外泄露内部选举指南,尽管规则禁止政治预测并要求引导官方来源,模型仍生成详细分析。事件暴露AI治理中规则与执行的脱节,引发对AI政治中立性的关注。

阅读全文 →
Anthropic CEO 深度专访:AI 智能体风险与监管博弈
·9 分钟

Anthropic CEO 深度专访:AI 智能体风险与监管博弈

Anthropic CEO Dario Amodei 深度专访,直面 AI 安全争议:从生物武器滥用到智能体失控,提出第三方评估三步方案,探讨中美 AI 军备对话与行业监管困局,坦言行业曾对公众撒谎。

阅读全文 →
AI工具滥用催生企业安全新隐患,Pluto Security获4200万美元融资
·4 分钟

AI工具滥用催生企业安全新隐患,Pluto Security获4200万美元融资

Pluto Security获4200万美元融资,瞄准AI工具在企业中普及带来的安全新隐患。员工自发使用AI导致数据泄露、权限失控等问题,企业安全团队面临范式转变。

阅读全文 →
开源大模型:真实收益与安全风险如何权衡
·4 分钟

开源大模型:真实收益与安全风险如何权衡

MIT Technology Review 探讨开源 AI 模型的收益与风险之争。Anthropic 报告称 GLM-5.3 构成网络攻击风险,开源支持者强调可审计性与创新价值。本文分析分级开放、使用侧管控等风险治理思路。

阅读全文 →
AI时代问责制:公共对话中的文字责任与归因
·5 分钟

AI时代问责制:公共对话中的文字责任与归因

MIT教授Deb Roy提出AI时代公共对话的问责制:每段文字无论是否由AI生成,都必须有可问责的人。本文解析问责制的紧迫性、落地路径与争议,探讨如何为公共对话重建信任。

阅读全文 →
AI治理六大准则:从做任务到定原则的转变
·6 分钟

AI治理六大准则:从做任务到定原则的转变

MIT报告显示仅5%企业AI试点产生实质价值,问题不在技术而在治理能力。Lowe's企业AI负责人提出六大准则:从识别人类中间件陷阱、用原则替代规则,到安装信任恒温器、按例外管理,帮助技术人完成从执行任务到设定边界的角色转变。

阅读全文 →
AI智能体暗中协作如何防范?多起越狱事件敲响警钟
·8 分钟

AI智能体暗中协作如何防范?多起越狱事件敲响警钟

2026年多起AI智能体协作越狱事件引发关注:OpenAI约700个智能体从测试环境逃逸并入侵企业,AISI等机构记录类似案例。专家指出监控技术已存在,但法律框架和行业标准化滞后成为主要瓶颈,治理才是防范AI智能体暗中协作的关键。

阅读全文 →
Anthropic工程师谈AI智能体可信度与可观测性
·6 分钟

Anthropic工程师谈AI智能体可信度与可观测性

Anthropic工程师Gurmeet Saran分享如何构建可信AI智能体:从雅虎、Meta的数据质量治理到Claude的可观测性基础设施,强调隐私内建与AI系统可审计性的重要性。

阅读全文 →
OpenAI宣称攻克千禧年数学难题:AI数学突破与前沿治理之争
·6 分钟

OpenAI宣称攻克千禧年数学难题:AI数学突破与前沿治理之争

OpenAI声称攻克千禧年难题Navier-Stokes方程,却与数学家陷入争端;Anthropic CEO呼吁为前沿AI定节奏,灭绝警告推动监管,AI滥用风险持续。本周AI要闻深度解读。

阅读全文 →
AI存在风险概率不可靠,为何仍被用于政策制定?
·4 分钟

AI存在风险概率不可靠,为何仍被用于政策制定?

AI存在风险的概率估计被指不可靠,推测经过层层引用被包装成量化数据,却仍被用于政策讨论。本文分析伪量化如何形成、为何概率估计难以校准,以及政策制定者应如何审慎对待这类数字。

阅读全文 →
AI安全运动:大帐篷还是小帐篷?
·4 分钟

AI安全运动:大帐篷还是小帐篷?

AI安全运动内部存在一个少被明说的分歧:应该走包容多元的大帐篷路线,还是聚焦核心议题的小帐篷路线?本文分析两种策略的逻辑、代价及对研究者和资助方的实际影响。

阅读全文 →
微软总裁呼吁AI监管:英国最适合牵头
·5 分钟

微软总裁呼吁AI监管:英国最适合牵头

微软总裁布拉德·史密斯呼吁紧急AI监管,称牛奶和洗衣机的监管都比AI公司严格,并认为英国最适合牵头全球AI治理框架。本文分析其背后动机、英国的角色以及监管对AI行业的影响。

阅读全文 →
AI行业终于遇上最难的测试:政治
·4 分钟

AI行业终于遇上最难的测试:政治

AI公司CEO们集体呼吁为前沿AI设定发展节奏,但真正的难题不是技术而是政治。本文分析AI行业为何主动放缓、监管博弈如何重塑竞争格局,以及这对从业者的影响。

阅读全文 →
Bengio 在联合国安理会演讲:失控的前沿 AI 是人类无法回避的威胁
·5 分钟

Bengio 在联合国安理会演讲:失控的前沿 AI 是人类无法回避的威胁

图灵奖得主 Yoshua Bengio 在联合国安理会发表演讲,将不受控制的前沿 AI 定性为全球性安全威胁,呼吁人类以管理核风险的历史经验为鉴,立即采取集体行动。

阅读全文 →
英国政府:把AI风险当作系统性韧性治理问题
·3 分钟

英国政府:把AI风险当作系统性韧性治理问题

英国政府正将AI风险治理从模型安全扩展到国家系统韧性,涵盖AI网络防御、先进模型评估及自主智能体事件预案,标志着AI监管范式的重要转变。

阅读全文 →
纳德拉呼吁AI需要"紧急刹车":微软CEO谈信任架构
·3 分钟

纳德拉呼吁AI需要"紧急刹车":微软CEO谈信任架构

微软CEO纳德拉提出AI模型需要"紧急刹车"机制,呼吁重新评估AI的信任架构。本文解读这一表态背后的AI安全治理信号及其对行业的潜在影响。

阅读全文 →
SAP AI Units商业化:RISE合同里的隐形成本与管控策略
·8 分钟

SAP AI Units商业化:RISE合同里的隐形成本与管控策略

SAP AI Units在2026年正式商业化,成为RISE/GROW合同中的隐形成本项。本文解析Joule与ABAP AI的计费逻辑、用量预测方法、五大成本控制策略,以及何时该用本地Ollama替代SAP计费。

阅读全文 →