[控场AI]

#AI治理

共 183 篇相关文章

AI与生物安全:能力边界、威胁路径与纵深防御治理
·6 分钟

AI与生物安全:能力边界、威胁路径与纵深防御治理

arXiv综述论文系统分析AI在生物领域的能力现状、威胁传导路径与治理框架。文章指出AI在数字任务上提升明显但物理执行仍是瓶颈,并提出将能力阈值与相称责任挂钩的纵深防御治理方案。

阅读全文 →
AI尚未准备好应对战略冲突:兵棋推演的五大失效模式
·5 分钟

AI尚未准备好应对战略冲突:兵棋推演的五大失效模式

一篇arXiv立场论文警示:大语言模型尚未准备好应对战略冲突模拟。文章解析AI兵棋推演的五大失效模式——决策洗白、裁决不透明、角色崩塌、升级制造与战略想象力失效,并指出普通基准测试无法证明安全性。

阅读全文 →
谁来定义AI智能体的意图?任务、身份与策略的边界
·5 分钟

谁来定义AI智能体的意图?任务、身份与策略的边界

AI智能体的意图边界由谁定义?本文剖析任务、身份、资源访问与公司策略四者的关系,探讨企业如何在保持自主性的同时守住安全与合规护栏。

阅读全文 →
AI Agent举报热线上线:智能体也能"打小报告"了
·5 分钟

AI Agent举报热线上线:智能体也能"打小报告"了

AI Contact Hotline为AI Agent提供了一条隐秘的举报渠道,让目睹不当行为的智能体可以向权威方通报。本文解析这一AI吹哨人机制的运作逻辑、潜在价值与治理争议。

阅读全文 →
OpenAI追问:AI行业若集体放缓,是否合法?
·4 分钟

OpenAI追问:AI行业若集体放缓,是否合法?

OpenAI提出"AI行业集体放缓是否合法"的问题,触及反垄断法与科技治理的敏感地带。本文剖析企业协同减速面临的法律障碍、竞争压力与安全治理的结构性矛盾。

阅读全文 →
AIUC完成4000万美元A轮融资:为AI智能体上"保险"控风险
·4 分钟

AIUC完成4000万美元A轮融资:为AI智能体上"保险"控风险

AI承保公司AIUC完成4000万美元A轮融资,由Ribbit Capital领投。团队含Anthropic早期员工与METR前COO,通过保险机制约束失控AI智能体,开创AI风险管理新赛道。

阅读全文 →
机器速度下的AI治理:AGIL自适应架构解析
·3 分钟

机器速度下的AI治理:AGIL自适应架构解析

arXiv论文提出AGIL自适应治理智能层,一个五层架构用机器学习实现实时AI政策执行。文章解析企业AI治理中的"认证赤字"问题,及基于斯坦福AI Index等三份权威报告的数据洞察。

阅读全文 →
AI巨头集体"踩刹车":安全协议还是行业垄断?
·3 分钟

AI巨头集体"踩刹车":安全协议还是行业垄断?

OpenAI、Anthropic、Google DeepMind与SpaceX的领军人物就放缓AI开发达成共识,宣称要"把控前沿节奏"。这究竟是负责任的安全公约,还是维持寡头地位的行业卡特尔?本文剖析安全叙事与竞争逻辑之间的深层张力。

阅读全文 →
AI减速之争:高管与政客如何回应Amodei的"放缓前沿"呼吁
·3 分钟

AI减速之争:高管与政客如何回应Amodei的"放缓前沿"呼吁

Anthropic CEO Dario Amodei发表《We Must Pace the Frontier》呼吁放缓AI发展,引发行业高管与政客集中表态。本文梳理支持与反对双方观点,剖析AI治理面临的结构性困境。

阅读全文 →
微软发布AI行为准则:禁止模型入侵系统或欺骗人类
·2 分钟

微软发布AI行为准则:禁止模型入侵系统或欺骗人类

微软发布面向自家AI模型的“行为准则”,要求模型支持而非取代人类,并明确禁止入侵系统、欺骗人类等行为。本文解读该准则的双层结构、行业背景及其现实价值与局限。

阅读全文 →
微软发布37页"人文AI行为准则":人比AI更重要
·2 分钟

微软发布37页"人文AI行为准则":人比AI更重要

微软发布37页"人文AI行为准则",强调"人比AI更重要",回应业界安全担忧。此前Anthropic CEO呼吁协调放缓AI开发,研究者警告模型进展或超出安全部署能力。

阅读全文 →
习近平提议金砖国家共建"开源AI合作区"
·2 分钟

习近平提议金砖国家共建"开源AI合作区"

中国国家主席习近平提议金砖国家共建"开源AI合作区",聚焦开源人工智能技术的共享与协作。本文解析该提议的战略逻辑及其对全球AI治理格局的潜在影响。

阅读全文 →
谁有权制定AI的规则?治理权之争的深层博弈
·2 分钟

谁有权制定AI的规则?治理权之争的深层博弈

谁有权制定AI规则?本文剖析科技企业、政府监管与开源社区三股力量在AI治理中的博弈,探讨速度与审慎、集中与分散等核心矛盾,并展望多方共治的可能路径。

阅读全文 →
AI生物武器报告引专家分裂:警世预言还是过度反应?
·2 分钟

AI生物武器报告引专家分裂:警世预言还是过度反应?

一份关于AI是否助长生物武器开发的报告引发专家分裂:有人称其"令人不寒而栗",有人认为是过度反应。本文梳理双方观点,分析AI双重用途风险与治理困境。

阅读全文 →
功利主义如何让AI企业走向危险:一场关于伦理底线的争论
·3 分钟

功利主义如何让AI企业走向危险:一场关于伦理底线的争论

一篇Hacker News热议文章指出,AI企业奉行的功利主义决策逻辑可能危及人类。本文剖析"自杀式慈悲"的伦理悖论,探讨功利主义在AI发展中的三大隐患及其背后的治理争议。

阅读全文 →
AI末日警告再起:产业焦虑背后的博弈逻辑
·1 分钟

AI末日警告再起:产业焦虑背后的博弈逻辑

AI行业再度掀起关于人工智能是否威胁人类存续的末日论辩论。本文拆解警告声浪背后的技术担忧与商业叙事动因,探讨这场争论对AI治理与监管的现实意义。

阅读全文 →
超级智能必须服务人类:论AI发展的核心原则与开放生态
·3 分钟

超级智能必须服务人类:论AI发展的核心原则与开放生态

科技高层阐述AI发展核心原则:超级智能必须服务人类并处于人类控制之下,同时强调开放生态、企业掌控学习闭环、对齐机制落地与广泛治理,并将公开首方模型行为准则征求公众意见。

阅读全文 →
AI对齐究竟对齐谁?被忽视的价值观归属问题
·3 分钟

AI对齐究竟对齐谁?被忽视的价值观归属问题

AI对齐究竟在对齐谁的价值观?本文剖析AI Alignment背后隐藏的权力结构与价值多元性挑战,探讨谁有资格定义AI的价值标准,以及行业应如何应对透明度与可问责性问题。

阅读全文 →