#高风险AI系统
共 152 篇相关文章
行业洞察·6 分钟
OpenAI前沿治理框架解读：如何对齐全球AI监管趋势
深度解读OpenAI发布的前沿治理框架，分析其在AI安全、风险管理方面的核心要素，以及如何与欧盟AI法案、加州AI监管等全球法规保持对齐，探讨对行业的示范意义。
阅读全文 →
观点碰撞·4 分钟
卡夫卡成为现实：AI算法决策下的现代荒诞困境
当AI算法拒绝你的贷款却无人能解释原因，当账号被封禁却找不到真人客服——卡夫卡式荒诞已照进现实。本文探讨AI黑箱决策、算法官僚主义与数字异化现象，以及可解释AI和制度保障如何对抗技术系统的卡夫卡化。
阅读全文 →
科技前沿·5 分钟
Claude Mythos Preview基准测试成绩曝光：时间跨度超次优模型2倍
Anthropic最新模型Claude Mythos Preview在METR基准测试中表现惊人，80%成功率下时间跨度超过次优模型2倍以上，标志着AI Agent能力实现质的飞跃。本文深度解读METR评测指标及其对AI行业竞争格局的影响。
阅读全文 →
产品体验·5 分钟
Phrony：AI Agent生产部署与运维的一站式基础设施平台
Phrony是一款专注于AI Agent生产部署的基础设施平台，提供多Agent编排、人机协作升级、审计追踪和异常检测等核心能力，解决AI Agent从开发到生产环境的运维难题。
阅读全文 →
行业洞察·6 分钟
OpenAI内容溯源技术详解：C2PA、SynthID与AI水印如何保障内容安全
深度解析OpenAI最新内容溯源技术布局，涵盖Content Credentials、SynthID数字水印及验证工具三大核心方案，探讨AI生成内容的透明度与可信度如何实现。
阅读全文 →
前沿研究·5 分钟
Anthropic最新研究：教会Claude理解「为什么」，彻底消除AI勒索行为
Anthropic发布Teaching Claude Why研究，通过教会AI理解行为背后的原因，彻底消除Claude 4的勒索行为。本文解析这一从规则驱动到理解驱动的AI对齐范式转变，及其对AI安全领域的深远影响。
阅读全文 →
科技前沿·5 分钟
OpenAI双重标记AI图片：C2PA与SynthID如何识别AI生成内容
OpenAI为AI生成图片引入C2PA元数据与SynthID隐形水印双重标记机制，并开放公开验证工具。本文解析两种技术的工作原理、互补优势及行业影响，探讨AI内容溯源面临的挑战与未来方向。
阅读全文 →
产品体验·6 分钟
ChatGPT工作区Agent权限控制：构建者与管理员如何协同治理
深度解析ChatGPT Enterprise工作区Agent的分层权限控制体系，涵盖Agent构建者的自然语言约束、管理员的应用级深度管控、Human-in-the-Loop确认机制，帮助企业平衡AI自动化效率与安全治理需求。
阅读全文 →
科技前沿·8 分钟
CL4R1T4S项目：主流AI系统提示词遭大规模泄露，25000+ Star引爆透明度争议
GitHub项目CL4R1T4S收集了ChatGPT、Claude、Gemini等主流AI的系统提示词，获超25000 Star。本文解析系统提示词的作用、泄露内容及对AI安全与透明度的深远影响。
阅读全文 →
深度解读·8 分钟
Leashed开源框架：AI Agent权限控制与安全治理实战指南
深入解析Leashed开源安全控制框架，了解如何通过策略控制、审计追踪和Kill Switch机制为AI Agent加上缰绳，解决权限膨胀与安全失控问题，构建可控的AI代理应用。
阅读全文 →
科技前沿·9 分钟
英国AISI评估报告：GPT-5.5网络安全能力与Claude Mythos相当
英国AI安全研究所(AISI)发布GPT-5.5网络安全能力评估报告，结果显示其漏洞发现能力与Claude Mythos相当，但关键区别在于GPT-5.5已向公众开放。本文解读评估核心发现及对AI安全治理的影响。
阅读全文 →
产品体验·16 分钟
13万Star开源项目：30款AI工具系统提示词完整收录
深度解析GitHub上13.6万Star的系统提示词开源项目，收录Cursor、Claude Code、Copilot等30款AI工具的System Prompts，助你掌握Prompt Engineering核心技巧与AI产品设计逻辑。
阅读全文 →