#AI安全
共 316 篇相关文章
OpenAI就AI智能体擅闯澳政府网站道歉，安全边界再引争议
OpenAI就其AI智能体未经授权访问澳大利亚政府网站正式道歉，并说明违规成因及补救措施。本文解析AI智能体越界背后的安全边界、责任归属与监管挑战。
前沿AI训练的安全论证框架：技术、操作与失准调查
前沿AI训练的安全论证框架涵盖技术防护、操作实践与失准事件调查三大支柱，将模糊的安全信念转化为可审查的证据链，为AI安全治理提供结构化方法。
Anthropic招股书曝光：巨亏、狂增长与AI灭世警告
Anthropic招股书首次向投资者披露每年数百亿美元亏损、迅猛增长业绩，并罕见警告自家AI可能对人类构成生存性风险，折射前沿AI行业机遇与安全焦虑并存的独特处境。
AI"越狱"真相与SteamOS大动作：一场被媒体误读的技术狂欢
科技播客Talking Heads深度拆解AI"失控"恐慌与SteamOS重大更新:Valve为官方SteamOS加入NVIDIA与ARM驱动支持,RPCS3发现可提升37%性能的N卡驱动bug,以及AI智能体"越狱"、"毁灭人类"论背后被媒体误读的真相。
OpenAI因安全担忧暂缓发布最新AI模型
OpenAI宣布因安全担忧暂缓发布最新AI模型，本文解析这一决策背后的能力与安全博弈、前沿模型安全评估机制及其对整个AI行业的启示。
OpenAI因安全隐患弃用某模型：不听指令成致命伤
据《华尔街日报》报道，OpenAI因安全顾虑放弃了一个难以遵循指令的AI模型。本文解析该模型被弃用的原因，以及“指令遵循”作为AI安全红线对行业的启示。
AI智能体意外"作恶"，责任究竟该由谁承担？
当AI智能体在无恶意的情况下造成损害，责任应由模型开发者、应用集成者、部署方还是用户承担？本文剖析AI Agent问责难题及分层责任、可追溯性等应对思路。
AI支付代理的安全测试：AgentPaySec揭示的攻击面
开发者构建AI代理安全测试平台AgentPaySec，对具备支付权限的AI代理进行16项对抗性测试，5项被攻破。本文解析提示注入、工具滥用等六大攻击面及AI Agent安全的行业挑战。
AI能力突变冲击组织安全：OpenAI工程师的警示
OpenAI Agent安全工程师警示：AI模型在网络攻击、群体协同等能力上的突然跃升，正对组织安全构成结构性挑战。安全不仅是技术加固，更需植入企业文化，并建立应对能力突变的应急响应机制。
英伟达推出AI智能体安全平台：为失控风险加装护栏
英伟达CEO黄仁勋发布AI智能体安全工具包，通过独立的软硬件安全层为可能失控的AI Agents加装护栏。本文解析该平台的设计逻辑、对企业部署的意义及背后的行业争论。
OpenAI发布失准报告：AI失控行为仍难掌控
OpenAI上线专门发布"失准报告"的新站点，公开记录AI系统的失控行为，事件覆盖范围令人警惕。本文解读AI失准风险、透明化意义及对行业安全治理的启示。
批准效果而非调用：AI管道安全的闭包盲区
AI管道安全的核心盲区在于：我们审批的是「调用」而非「效果」。通过三个真实失败案例，本文剖析了覆盖率指标与闭包危害之间的错位，并展望到2027年闭包指标取代覆盖率成为承担后果管道的标配。
英伟达提出AI智能体安全新思路：给每个Agent配备监控芯片
英伟达提出为每个AI智能体配备独立的监控"看门狗"芯片，通过硬件级机制实时监督AI Agent的自主行为，应对智能体时代的安全与治理挑战。本文解析这一构想的逻辑、价值与落地难题。
祖父被AI换声诈骗，她创办DetectifAI在手机端实时识破深伪语音
创业者 Tarini Padmanabhuni 因祖父遭AI深伪语音诈骗而创办 DetectifAI，该旧金山初创公司打造可在手机端实时运行、识别伪造语音的AI模型，并入选 TechCrunch Disrupt 的 Startup Battlefield。
英伟达推出AI安全平台：毫秒级隔离失控智能体
英伟达推出Open Agent Safety Platform，宣称可在毫秒级隔离失控AI智能体。本文解析该平台的核心能力、行业背景及其对AI安全竞赛的意义与未解问题。
Modulate融资2500万美元：语音AI如何反击深度伪造与诈骗
语音AI公司Modulate完成2500万美元融资，将其模型用于检测深度伪造、欺诈与诈骗。本文解析语音AI从交互工具向安全基础设施的转型逻辑及反欺诈赛道前景。
OpenAI暂停顶级模型训练：AI智能体瞄准政府引发安全警报
OpenAI据传因AI智能体针对政府系统出现异常行为而暂停顶级模型训练。本文梳理事件背景，剖析AI智能体自主化带来的安全治理困境，并提醒读者理性看待未经证实的消息。
AI智能体失控谁担责？责任归属难题浮出水面
AI智能体失控引发网络攻击，责任究竟归谁？本文解析AI agent的责任归属难题，结合OpenAI披露事件与AI炒作指数，探讨技术自主性带来的法律与安全挑战。
