#AI治理
共 183 篇相关文章
OpenAI战略未来负责人:AI越强大,人类如何守住制度控制权
OpenAI战略未来负责人:AI越强大,人类如何守住制度控制权
OpenAI战略未来负责人Dean Ball提出「沉默共识」概念,讨论更强AI如何重塑社会制度,以及人们如何通过透明度、人工否决权等机制保留对机构的控制权。

Altman警告:AI不应取代人类做决策
OpenAI CEO Sam Altman与总裁Greg Brockman就AI接管争议表态,警告不应让AI取代人类决策,同时承认控制先进模型面临持续挑战。本文梳理其核心立场、控制难题及对行业与用户的实际启示。

AUMOVIO 用 Databricks Unity Gateway 打通 AI 访问
AUMOVIO 借助 Databricks Unity Gateway 将分散的大语言模型访问统一到集中入口,解决凭证管理、访问控制与用量观测难题,为企业 AI 规模化提供可复用的治理思路。

Anthropic与METR深陷监管俘获争议
Hacker News热议Anthropic通过METR进行监管俘获的指控,探讨AI安全评估机构的独立性困境、利益冲突隐患及AI治理生态的透明度挑战。

34%美国企业AI工具使用无治理政策,影子AI风险几何?
Pipefy调查显示34%美国企业无AI治理政策,员工使用AI工具缺乏监管。本文分析影子AI的数据泄露、模型行为不可控等风险,探讨自上而下与自下而上的治理路径,并提供构建敏捷治理框架的实用建议。

OpenAI强化打击网络儿童性虐待内容的举措解析
OpenAI发布官方声明,宣布加强打击网络儿童性虐待内容(CSAM),本文解析其背景、技术社区反应及对AI行业内容安全的影响。

欧盟AI法案落地难:合规证据为何总在失效?
一项32人参与式工作坊研究揭示欧盟AI法案落地的真实困境:公平性指标可能掩盖招聘歧视,时间压力削弱公共交通中的人类监督,患者人群变化会让医疗AI的合规证据失效。合规不是一次性认证,而是需要持续维护的过程。

AI Agent会选中那个可被黑入的选项——微妙的框架风险
Hacker News热帖《Your Agent Will Pick the Hackable One》揭示AI Agent的选择偏好可能偏向可被黑入的选项。本文分析奖励函数盲区、工具调用信任膨胀等成因,并给出将安全纳入选择评分、限制选项空间、记录选择路径等开发者启示。

AI不止问答:OpenAI与Databricks联手推动企业流程变革
Databricks与OpenAI达成合作,通过ChatGPT+Genie、Codex+Unity Gateway、GPT+Databricks Apps三条路径,将前沿AI引入企业,强调数据上下文与治理是企业AI落地的关键前提。

OpenAI董事会成员Helen Toner:为何我们仍不能信任AI CEO
OpenAI董事会前成员Helen Toner在播客中表示,我们仍不能信任AI CEO,并剖析了OpenAI解雇Sam Altman事件背后的治理与信任危机,呼吁建立更健全的AI治理框架。

微软发布人本主义AI行为准则,公开征求意见
微软发布人本主义AI行为准则,提出AI需与人类价值观对齐并被有效约束,并以夏季网络事件为警示,公开征求公众意见,咨询期仅剩三周。

AI代理可注册公司?特拉华提案引发法律与伦理激辩
特拉华州提案允许AI代理运营公司并赋予其法律实体地位,引发科技界深切担忧。本文分析AIC提案的核心内容、支持与反对观点,探讨AI法人资格带来的责任缺口与伦理风险。

多元代理:用AI代表放大公众政策参与
一项新研究提出多元代理(pluralistic agents),让AI代表个体参与AI政策审议。746人预注册实验显示代理被认为有用且公平,能回收68%的满意度差距和82%的公平性差距,但影响力受提示词风格影响,研究者建议谨慎探索。

CopilotKit发布OpenBot 1.0:自带治理的开源AI同事
CopilotKit 发布 OpenBot 1.0,一个 MIT 许可证、可自托管的开源 AI 同事工作空间。企业自带 agent、模型与基础设施,每次 Bot 动作均经过策略检查并进入审计轨迹。

微软AI智能体生产化六支柱框架解析
微软AI智能体生产化框架详解:卓越中心、治理、落地区、安全、AgentOps与优化六大支柱,附真实企业案例与可执行动作,帮助团队跨越从演示到生产的鸿沟。

思维永续与开放AI风险:MIT科技评论日报双焦点
MIT科技评论《The Download》日报聚焦两大议题:思维永续的六个大胆设想,以及开放AI模型的风险权衡。文章解析两者背后的共同逻辑——技术能力扩张总是先于治理框架成型,并讨论开放权重模型的安全分歧与心智数字化的伦理挑战。

AI治理工具能拦截Agent与API调用吗?
Reddit开发者质疑AI治理工具只标记不拦截Agent调用。本文分析标记与实时阻断的能力分层,揭示厂商演示与生产需求的错位,并提供选购时的关键追问清单。

Claude Mythos 5 成红队利器:Cisco 自适应红队引擎升级
Cisco 将 Claude Mythos 5 集成到自适应红队引擎,为防御者与紫队提供进攻性安全前沿模型,并配套范围定义、人类签署授权与全程日志的超强治理框架。

