[控场AI]

#AI治理

共 183 篇相关文章

放慢AI前沿:Anthropic提出行业减速三步计划
·4 分钟

放慢AI前沿:Anthropic提出行业减速三步计划

Anthropic发布《We Must Pace the Frontier》文章,呼吁AI行业主动放慢脚步,并提出三步减速计划。公司率先承诺向第三方评估机构开放员工级系统访问权限,用于验证安全措施、报告事件和评估模型对齐。

阅读全文 →
澳大利亚拟推AI事件强制报告:监管背后的真问题
·4 分钟

澳大利亚拟推AI事件强制报告:监管背后的真问题

澳大利亚拟推行强制性AI事件报告制度。本文剖析提案背后的真正难题——自主智能体行动间的时间窗口与可追溯性缺口,并梳理日志审查、速率限制、人在回路等生产环境应对方案。

阅读全文 →
OpenAI打击AI假冒记者行动:拆解两起AI驱动的影响力操作
·3 分钟

OpenAI打击AI假冒记者行动:拆解两起AI驱动的影响力操作

OpenAI披露并拆解两起借助AI的影响力操作,这些行动利用假冒记者身份与伪装智库传播地缘政治信息。本文解析AI如何被滥用于信息操纵及其对AI治理的启示。

阅读全文 →
如何约束AI智能体?Omnigent策略实现成本与行为双控
·5 分钟

如何约束AI智能体?Omnigent策略实现成本与行为双控

AI智能体如何防止过度消费和执行危险操作?Omnigent策略通过动作执行前的检查,实现成本上限、工具权限限制与会话级累积风险追踪,达到阈值时自动触发人工审批,为智能体安全治理提供务实方案。

阅读全文 →
Vibe Coding与AI问责:当AI代理越界谁来负责
·4 分钟

Vibe Coding与AI问责:当AI代理越界谁来负责

Replit创始人Amjad Masad在Times Tech播客中探讨vibe coding氛围编程、用计算机构建的乐趣,以及AI末日论为何回避了真正的问责问题——当AI代理代表人类行动并越界时,责任究竟由谁承担。

阅读全文 →
智能体AI治理:为何管控动作比审查模型更重要
·6 分钟

智能体AI治理:为何管控动作比审查模型更重要

智能体AI治理(Agentic AI Governance)治理的是动作而非模型。本文解析它与传统AI治理的区别、三道核心控制(负责人、固定工具清单、调用前检查),以及为何运行时可执行性才是治理成败的关键。

阅读全文 →
Anthropic征集公众对AI的看法:一次价值观对齐的尝试
·3 分钟

Anthropic征集公众对AI的看法:一次价值观对齐的尝试

Anthropic发起面向公众的AI意见征集活动,引发Hacker News讨论。本文分析其背后的AI价值观对齐理念、征集活动的意义与争议,以及公众参与AI治理的更大趋势。

阅读全文 →
山姆·奥特曼:接受AI的"坏处"以换取其益处
·4 分钟

山姆·奥特曼:接受AI的"坏处"以换取其益处

OpenAI CEO山姆·奥特曼表示社会应接受AI带来的"坏处"以换取其收益。本文分析这一争议表态背后的技术乐观主义逻辑、成本收益权衡问题,以及对AI治理和风险分配公平性的深层启示。

阅读全文 →
白宫超级智能协议签署:谷歌承诺负责任开发AI
·4 分钟

白宫超级智能协议签署:谷歌承诺负责任开发AI

谷歌CEO皮查伊与美国政府高层签署《白宫超级智能协议》,承诺负责任开发AI。文章解读谷歌数千亿美元全栈投入、红队测试等安全机制,以及行业协同治理的意义。

阅读全文 →
AI风险观测站:年报披露揭示社会韧性的真相
·5 分钟

AI风险观测站:年报披露揭示社会韧性的真相

arXiv最新研究用LLM分析9821份英国上市公司年报,揭示AI风险披露五年激增至41.2%,但仅4.3%具实质内容,供应商集中与关键基础设施披露滞后暴露社会韧性隐忧。

阅读全文 →
AI自动化研发或引发失控的“智能爆炸”风险
·4 分钟

AI自动化研发或引发失控的“智能爆炸”风险

一条推特声明警告:AI研发的持续自动化可能引发急剧加速、难以控制的“智能爆炸”。本文解读智能爆炸概念、失控风险的来源,以及研究者为何转向政策建议。

阅读全文 →
加拿大成立国家AI委员会:聚焦AI安全与民主保护
·3 分钟

加拿大成立国家AI委员会:聚焦AI安全与民主保护

加拿大总理卡尼主导成立国家人工智能委员会,聚焦AI安全、民主保护与有益发展三大方向。本文解析该委员会的政策信号及其在全球AI治理格局中的意义。

阅读全文 →
共同主导AI安全训练营:法律与治理从业者的实践启示
·3 分钟

共同主导AI安全训练营:法律与治理从业者的实践启示

一位AI安全训练营的共同主导者分享面向法律与治理从业者的培训经验,探讨跨学科教学的挑战、概念翻译的必要性,以及AI治理人才能力建设对行业的深远意义。

阅读全文 →
谷歌Antigravity上线Opus 5.5,宇树开源60亿参数机器人模型
·7 分钟

谷歌Antigravity上线Opus 5.5,宇树开源60亿参数机器人模型

谷歌Antigravity上线Opus 5.5仅限付费Pro和Ultra用户,宇树开源60亿参数人形机器人模型Unifor LMW-LA,DSH更新0.2.1-alpha.1,Anthropic投入1亿美元培训工程师。一文速览本期AI行业动态。

阅读全文 →
把AI当作普通技术:一种更冷静的技术观
·4 分钟

把AI当作普通技术:一种更冷静的技术观

"AI as Normal Technology"主张把人工智能当作像电力、互联网一样的普通通用技术来理解,强调技术扩散需要时间、能力进步不等于影响力爆发、风险应被具体化治理。本文解析这一冷静技术观的核心主张及其对行业与个人的启示。

阅读全文 →
Grok卷入政治决策?AI聊天机器人被指介入委内瑞拉行动
·3 分钟

Grok卷入政治决策?AI聊天机器人被指介入委内瑞拉行动

据报道,特朗普在对委内瑞拉采取行动前曾咨询马斯克旗下AI聊天机器人Grok。本文解析AI工具介入重大政治决策的技术边界、幻觉风险与治理隐忧。

阅读全文 →
AI Agent可靠性与监督:团队落地的现实挑战
·4 分钟

AI Agent可靠性与监督:团队落地的现实挑战

AI Agent走进团队工作流,可靠性与监督成为规模化落地的核心难题。本文解析Agent可靠性区别于模型准确率的本质,以及团队在可观测性、人机协作与失败恢复上的实践路径。

阅读全文 →
AI主权财富基金是进步还是技术帝国主义?
·4 分钟

AI主权财富基金是进步还是技术帝国主义?

一篇Hacker News热议文章质疑"AI主权财富基金"并非进步政策,而是技术帝国主义。本文解析其核心论点、技术帝国主义的含义,以及对全球AI治理与财富分配的启示。

阅读全文 →