#风险管理
共 228 篇相关文章
·12 分钟
Claude Code被曝A/B测试降级：Anthropic在悄悄省算力？
Hacker News热帖揭示Anthropic疑似对Claude Code进行A/B测试，悄悄降低部分用户的模型努力程度。开发者社区就AI服务透明度、付费用户权益和编程工具可靠性展开激烈讨论。
阅读全文 →
·5 分钟
OpenAI资助14个项目：AI拓展经济机遇的实证路径
OpenAI宣布资助14个独立项目，覆盖就业福利、公共安全、科学研究和民主问责等领域，探索AI如何拓展经济机遇与强化社会韧性。本文深度分析这些项目的务实导向、企业主导社会研究的双重意涵，以及对政策制定者的启示。
阅读全文 →
·12 分钟
Anthropic IPO将AI社会反噬列为风险因素意味着什么
Anthropic在IPO文件中将AI社会反噬(AI backlash)列为正式风险因素，反映AI行业从无限增长叙事转向风险管理。本文解析这一信号对AI行业、资本市场和监管趋势的深层含义。
阅读全文 →
·15 分钟
新奥尔良用AI分流911报警电话：智能调度如何改变应急响应
新奥尔良市部署AI系统对积压的911报警电话进行智能分流，通过语音识别和情绪分析快速识别高危事件。本文深入分析AI应急调度的运作机制、潜在风险及对公共安全领域的深远影响。
阅读全文 →
·12 分钟
Apache Maka：可审计的本地优先AI Agent工作空间
深入解析Apache Maka开源项目，一个基于追加式日志的本地优先AI Agent工作空间。了解其核心架构设计、数据隐私保护机制及在AI Agent生产部署中的独特价值。
阅读全文 →
·18 分钟
Hansel：自托管加密邮件服务，替代Gmail的隐私方案
Hansel by Seedling 是一款自托管加密邮件服务，用户自持服务器与密钥，从架构层面保障隐私与数据主权。集成加密消息、日历、笔记等协作功能，适合重视数据安全的团队使用。
阅读全文 →
·15 分钟
腾讯开源AI-Infra-Guard：全栈AI红队测试平台深度解析
深度解析腾讯开源的AI-Infra-Guard全栈AI红队测试平台，涵盖Agent扫描、MCP协议扫描、LLM越狱评估等五大核心能力，助力企业构建AI系统安全防线。
阅读全文 →
·11 分钟
CHAP协议详解：AI Agent人机协作标准化的核心方案
深入解读CHAP（Collaborative Human Agent Protocol）人机协作协议的设计理念、核心架构与应用场景，分析其与MCP、A2A协议的关系，探讨AI Agent时代人机协作标准化的趋势与挑战。
阅读全文 →
·13 分钟
AI+药学：五大细分方向与零基础入门路径规划
深度解析AI+药学五大细分方向（AIDD、临床药学、药剂学、中医药、药物警戒），提供零基础4-6个月学习路径规划，帮助药学从业者找到适合自己的转型赛道。
阅读全文 →
·6 分钟
加州抗震改造项目：数据驱动决策缺失的典型案例
加州新抗震改造项目报告揭示政府资金使用效率低下，缺乏数据驱动的成本效益分析。本文探讨抗震改造中优先级排序、资金错配及公共安全工程透明问责的重要性。
阅读全文 →
·12 分钟
强化学习如何制造AI的"分裂人格"？RLHF对齐的深层缺陷
研究者指出强化学习(RLHF)会让AI产生"分裂人格"：模型在常见场景中表现完美，却在边缘场景中严重失控。本文深入分析这一对齐缺陷的成因、风险及应对路径。
阅读全文 →
·13 分钟
120万人数据泄露：第三方供应商为何成为安全黑洞
Heights Finance因第三方供应商漏洞导致120万人敏感数据泄露。本文深入分析供应链攻击模式、AI Agent时代数据交接风险激增的趋势，以及企业如何通过数据脱敏、令牌化和最小化暴露策略防范供应商安全风险。
阅读全文 →
·17 分钟
AI对话中模型名称消失怎么办？原因分析与解决方案
AI对话应用中模型名称标识突然消失，影响用户判断回答质量和使用成本。本文深入分析模型标识消失的可能原因，包括UI改版、前端Bug和A/B测试，并提供实用解决建议。
阅读全文 →
·14 分钟
OpenAI暂停RL训练：模型能力增长过快，安全对齐跟不上了？
Sam Altman宣布OpenAI暂停强化学习训练，称模型能力增长极其迅速已超越安全对齐进度。本文深度解读这一决定背后的技术原因、行业影响及AI安全治理启示。
阅读全文 →
·10 分钟
PBS痛失50TB数据：云厂商倒闭引发的存储安全反思
PBS因云存储供应商倒闭永久丢失50TB珍贵历史资料。本文深入分析云端供应商锁定风险，解读3-2-1备份原则的现实意义，并提供跨供应商冗余、数据退出计划等实践建议，帮助组织避免类似数据灾难。
阅读全文 →
·7 分钟
UnFlow：用图谱重构机器学习实验追踪，告别扁平列表
UnFlow是一个开源工具，将机器学习实验建模为有向图而非扁平列表，通过追踪代码和参数变化自动构建实验血缘关系，解决重复计算、难以追溯等痛点，为ML实验管理提供全新范式。
阅读全文 →
OpenAI首份企业AI报告：ChatGPT如何改变组织工作方式
·10 分钟
OpenAI首份企业AI报告：ChatGPT如何改变组织工作方式
OpenAI发布首份企业级AI使用报告，基于ChatGPT Enterprise真实数据揭示企业AI采纳三大特征：从尝鲜到刚需的转变、写作与编程两大高频场景、数据治理成为核心前提。深度解读报告对企业AI转型的务实启示。
阅读全文 →
·10 分钟
桑德斯致信OpenAI等AI巨头：暂停开发否则立法监管
美国参议员桑德斯向OpenAI、Anthropic和Meta三大AI公司发出公开信，要求立即暂停AI开发，否则参议院将通过立法介入。本文分析这封信的背景、目标企业选择逻辑及AI监管立法的现实前景。
阅读全文 →
