[控场AI]

#AI治理

共 185 篇相关文章

特朗普令联邦文件改称超级智能,DeepSeek开源昇腾版底层软件
·6 分钟

特朗普令联邦文件改称超级智能,DeepSeek开源昇腾版底层软件

特朗普签署行政令要求联邦文件把人工智能改称超级智能,同日FTC证实调查OpenAI、Anthropic;DeepSeek开源华为昇腾版底层软件,核心TileLang语言让算子摆脱硬件绑定,向英伟达CUDA发起挑战。

阅读全文 →
91%企业已用多款AI编程工具:如何治理"工具泛滥"难题
·4 分钟

91%企业已用多款AI编程工具:如何治理"工具泛滥"难题

91%的企业已同时使用两款以上AI编程工具,工具泛滥成为规模化最大难题。本文解析可扩展Agent战略的三大支柱:选择、上下文与控制,帮助企业治理Agent舰队、降低碎片化。

阅读全文 →
前沿AI训练的安全论证框架:技术、操作与失准调查
·4 分钟

前沿AI训练的安全论证框架:技术、操作与失准调查

前沿AI训练的安全论证框架涵盖技术防护、操作实践与失准事件调查三大支柱,将模糊的安全信念转化为可审查的证据链,为AI安全治理提供结构化方法。

阅读全文 →
OpenAI就澳大利亚政府网站事件致歉,承诺强化网络安全保障
·4 分钟

OpenAI就澳大利亚政府网站事件致歉,承诺强化网络安全保障

OpenAI就涉及澳大利亚政府网站的安全事件公开致歉,并承诺提供更严格的安全保障与支持,以强化澳大利亚的网络防御能力。本文解析事件背景及其对AI行业与公共部门的启示。

阅读全文 →
是时候调查AI实验室了:监管缺位下的隐忧
·4 分钟

是时候调查AI实验室了:监管缺位下的隐忧

领先AI实验室是否应接受更严格的外部调查正成为AI治理焦点。本文梳理监管缺位、信息不对称与安全承诺可验证性等核心争议,探讨调查可能涉及的维度与创新监管间的张力。

阅读全文 →
Azure CTO揭秘云端弹性:从宕机事故到AI运维的进化
·11 分钟

Azure CTO揭秘云端弹性:从宕机事故到AI运维的进化

Azure CTO深度解读云端弹性:复盘2014年拖垮全球Azure的存储宕机事故,揭秘安全部署策略、混沌工程、SLI与Brain AI健康监测系统,以及AI非确定性给可靠性带来的全新挑战与确定性护栏应对之道。

阅读全文 →
所谓"失控"AI智能体:责任不该甩给机器
·3 分钟

所谓"失控"AI智能体:责任不该甩给机器

所谓"失控"的AI智能体其实并不存在。AI的每个行为都源于人类的设计、训练与部署决策,"rogue AI"叙事本质上是一种责任转移的话术。本文剖析为何应将AI责任归还给人类。

阅读全文 →
DeepMind Institute成立:跨学科研究AGI社会经济影响
·3 分钟

DeepMind Institute成立:跨学科研究AGI社会经济影响

DeepMind宣布成立DeepMind Institute,联合首席AGI科学家Shane Legg开展跨学科研究,聚焦人工通用智能对经济、科学与社会的潜在影响,推动AI时代关键议题的公共讨论。

阅读全文 →
前沿AI治理之路:行业标准机构提案引发关注
·3 分钟

前沿AI治理之路:行业标准机构提案引发关注

一条围绕Dario Amodei文章的推文引发AI治理讨论,涉及前沿AI行业标准机构提案。本文解析为何需要行业标准机构、方向正确但细节待定的含义,以及行业自律与外部监管的张力。

阅读全文 →
Semantica为什么火:AI结论也要交代依据
·6 分钟

Semantica为什么火:AI结论也要交代依据

Semantica为什么受关注?它把AI结论重新接回事实、关系、来源与时间,做成可复盘的证据链。本文从一笔贷款审批出发,拆解关系、证据、治理三层机制及企业落地建议。

阅读全文 →

AI教父联合国安理会发声:失控前沿AI智能体是人类空前威胁

·4 分钟

AI教父联合国安理会发声:失控前沿AI智能体是人类空前威胁

一位AI风险倡导者受邀在联合国安理会发言,警告不受控制的前沿AI智能体是人类前所未有的威胁,呼吁立即行动。本文解读这场高级别发言的深层信号与AI治理紧迫性。

阅读全文 →
'Claude的神父':布伦丹神父谈如何引导AI向善
·3 分钟

'Claude的神父':布伦丹神父谈如何引导AI向善

天主教神父布伦丹·麦圭尔被称为"Claude的神父",从公共善视角探讨如何引导AI向善。本文分析宗教伦理视角对AI治理的独特价值,以及多元声音参与AI伦理讨论的意义。

阅读全文 →
银行与保险业如何在生产环境部署LLM:合规审计成关键
·5 分钟

银行与保险业如何在生产环境部署LLM:合规审计成关键

银行、保险等受监管行业在生产环境部署LLM时,合规审计成为首要门槛。本文拆解审计追踪、PII脱敏、访问控制三大硬性要求,对比Azure AI Foundry与Orqai两种选型路径,剖析金融行业AI采购的现实考量。

阅读全文 →
Sam Altman联合国安理会发言:AI安全、人类控制与国际合作
·4 分钟

Sam Altman联合国安理会发言:AI安全、人类控制与国际合作

OpenAI CEO Sam Altman在联合国安理会发表讲话,聚焦AI安全、人类控制权与国际合作三大议题,标志着人工智能治理正式进入全球最高级别安全事务议程。

阅读全文 →
临床AI治理难题:Concurrence如何用Unity Gateway管控万亿Token规模
·5 分钟

临床AI治理难题:Concurrence如何用Unity Gateway管控万亿Token规模

临床AI几乎没有容错空间。本文解析 Concurrence 如何借助 Unity Gateway 在万亿Token规模下治理医疗AI,实现访问控制、合规审计与可观测性的统一,探讨医疗AI规模化落地的治理路径。

阅读全文 →
AI进步的两大风险:失控与权力集中如何避免
·5 分钟

AI进步的两大风险:失控与权力集中如何避免

AI进步可能走向两种最危险的结局:人类失去对未来的控制,以及AI带来的权力极端集中。本文解析这两大风险的本质,以及为何治理必须走一条既防失控、又防权力集中的狭窄中间道路。

阅读全文 →
AI标准之争:为何实验室之外的人应拥有话语权
·4 分钟

AI标准之争:为何实验室之外的人应拥有话语权

一条关于AI治理的提议引发热议:AI实验室之外的人应拥有真正话语权,标准应防止权力集中、保护开源竞争,并让各国比较证据、从失败中学习。本文解析这一AI安全标准提议的核心逻辑与现实意义。

阅读全文 →
希腊总理坦言:政府尚未为AI冲击做好准备
·4 分钟

希腊总理坦言:政府尚未为AI冲击做好准备

希腊总理米佐塔基斯罕见坦言没有政府为AI冲击做好准备,用"我们还在打昨天的仗"形容治理与技术的错位。本文分析AI治理面临的结构性困境及其对各国的启示。

阅读全文 →