[控场AI]

#AI治理

共 183 篇相关文章

OpenAI发布使用政策新标准:以一致规范拓展负责任访问
·5 分钟

OpenAI发布使用政策新标准:以一致规范拓展负责任访问

OpenAI发布使用政策说明,阐述如何通过与分发合作伙伴协作,以一致的安全标准实现广泛访问,明确使用政策期望,推动负责任的AI访问。

阅读全文 →
Anthropic发布年度公益报告:五大支柱推进AI向善
·3 分钟

Anthropic发布年度公益报告:五大支柱推进AI向善

Anthropic发布年度公益报告,围绕五大支柱盘点推进AI向善的具体行动。本文解读公益公司身份的意义、报告核心内容及其对AI行业治理的启示。

阅读全文 →
字节级审计:Tawfiki AI如何独立评判闭源治理引擎
科技前沿
·6 分钟

字节级审计:Tawfiki AI如何独立评判闭源治理引擎

Tawfiki AI开源字节级AI治理审计框架,引擎不参与自我裁决,通过预注册规则集与提交哈希实现独立评分。本文解析B001-B005套件、见证协议与2,000倍效率声明的真实含义。

阅读全文 →
DeepSeek V4.1 Flash与Gemini 4 Argon:一次AI对比背后的哈耶克警示
·5 分钟

DeepSeek V4.1 Flash与Gemini 4 Argon:一次AI对比背后的哈耶克警示

从B站一段标题为DeepSeek V4.1 Flash对比Gemini 4 Argon的视频切入,探讨哈耶克《通往奴隶之路》中的知识分散性警示如何映射到当前大模型治理与权力集中问题,分析AI对齐的深层张力与法治式治理出路。

阅读全文 →
纽约市长曼达尼:AI并非必然,必须加以控制
·4 分钟

纽约市长曼达尼:AI并非必然,必须加以控制

纽约市长曼达尼公开表态AI并非不可避免,主张必须加以控制。本文梳理纽约市学校AI禁令、房地产广告披露规则,以及联邦与地方在AI监管上的张力与企业内部风险声音。

阅读全文 →
Mamdani痛批联邦AI监管缺位,呼吁纽约人主动反击
·3 分钟

Mamdani痛批联邦AI监管缺位,呼吁纽约人主动反击

纽约市长马姆达尼批评联邦政府在AI监管上放弃职责,呼吁市民拒绝「AI接管不可避免」的叙事,主动要求保护公众的监管规则。本文解析其表态背后的权力分配争议与地方AI治理路径。

阅读全文 →
家族办公室AI就绪度自检:10个问题判断能否安全用AI
·7 分钟

家族办公室AI就绪度自检:10个问题判断能否安全用AI

家族办公室如何判断是否准备好用AI?这份十问自检清单要求每个"是"都有文件或测试记录支撑,涵盖书面政策、训练条款、权限测试、报告溯源与删除验证,并附0-10分区间解读。

阅读全文 →
AI Agent权限失控?独立授权层拦截数据库变更
·8 分钟

AI Agent权限失控?独立授权层拦截数据库变更

AI Agent能操作数据库,不等于有权操作。本文解析一个基于LangGraph、SQLite与开源治理平台BHANUJ-AIGP的实验:通过独立授权层、委托机制与fail-closed设计,拦截未授权的数据库变更,并保留可追溯的执行证据。

阅读全文 →
用证据系统驾驭AI代理:形式化验证加密代码的治理实践
·5 分钟

用证据系统驾驭AI代理:形式化验证加密代码的治理实践

Reddit开发者分享用"证据系统"治理AI代理编写形式化验证加密代码的实践:通过规格映射、验证器输出、反例记录与不确定性声明,把凭直觉的协作转为可审计的治理机制,并讨论人类审查角色的转变与证据系统自身的风险。

阅读全文 →
Anthropic捐出5%股份设立公益基金,AI治理新范式?
·3 分钟

Anthropic捐出5%股份设立公益基金,AI治理新范式?

Anthropic宣布将5%股份注入公益基金,这一举措在AI行业尚属首次。本文分析其对AI公司治理结构、社会责任与公众利益分配的可能影响。

阅读全文 →
Copilot能批准PR了,但AI审批需要职责分离
·9 分钟

Copilot能批准PR了,但AI审批需要职责分离

GitHub Copilot code review 现已可批准拉取请求,但当 AI 审批计入合并规则时,团队必须重新设计职责分离:敏感路径人类专属、上下文排除即批准策略、agent 编写的代码需独立审查。

阅读全文 →
拒绝背锅:开发者的AI伦理觉醒
·5 分钟

拒绝背锅:开发者的AI伦理觉醒

Hacker News热议开发者因AI伦理顾虑退出项目事件,剖析AI开发中责任错位、伦理审查缺失与个人抉择的分歧,为从业者提供职业边界参考。

阅读全文 →
AI公司新加坡设亚太第五办公室,签署AI安全备忘录
·4 分钟

AI公司新加坡设亚太第五办公室,签署AI安全备忘录

一家AI公司在新加坡开设亚太第五个办公室,并与新加坡政府签署AI安全与负责任采用谅解备忘录。本文分析其区域布局逻辑、MOU的治理含义及后续落地看点。

阅读全文 →
Itaú如何用生成式AI服务全量客户:ia.i与IARA治理平台解析
·4 分钟

Itaú如何用生成式AI服务全量客户:ia.i与IARA治理平台解析

巴西银行Itaú通过ia.i对话式AI界面和IARA治理平台,推进覆盖全量客户的生成式AI战略。本文解析其AI First策略在高度监管金融行业的落地逻辑与治理架构。

阅读全文 →
Posit AI Pass 将 AI 披露设为发表作品的明确要求
·6 分钟

Posit AI Pass 将 AI 披露设为发表作品的明确要求

Posit 发布 AI Pass 负责任使用政策,要求用户在 AI 对研究、代码或书面材料有实质性贡献时披露其角色。本文解析政策要点、三步披露工作流及对企业的实践启示。

阅读全文 →
AI Agent的Kill Switch:CIO必知的运行时熔断设计
·6 分钟

AI Agent的Kill Switch:CIO必知的运行时熔断设计

深入解析AI Agent的Kill Switch设计模式:原子性、权威性、可观测性、系统级可逆四大属性,三种失败模式的应对策略,以及让熔断机制真正生效的团队协议。CIO和工程团队必读的AI运营风险控制指南。

阅读全文 →
企业AI试点为何止步于演示阶段?
·6 分钟

企业AI试点为何止步于演示阶段?

企业AI试点为何止步于演示阶段?数据表明80%以上的AI项目失败,根源不是技术而是组织:所有权缺位、准确率对话缺失、数据管道断裂。本文分析停滞原因及成功交付公司的做法。

阅读全文 →

Show HN: 追踪AI领袖观点演变的新工具

·3 分钟

Show HN: 追踪AI领袖观点演变的新工具

Hacker News上展示了一款追踪AI领袖观点变化的工具,通过时间线呈现他们对AI安全、监管等议题的立场演变,引发社区对透明度与问责的讨论。

阅读全文 →