#AI安全
共 726 篇相关文章
教程攻略Agent可观测性完整方案:追踪、评估与Red Teaming实战指南
深入解析Microsoft Foundry的Agent可观测性方案,涵盖多Agent追踪、AI质量评估、Red Teaming安全测试及Prompt自动优化,帮助开发者弥合Agent预期行为与实际表现的差距。
行业洞察边境无处不在:安全监控技术如何渗透日常生活
安全监控技术正从国境线向城市街道、学校和手机蔓延。本文深度剖析AI监控、面部识别与预测性警务的扩张趋势,探讨恐惧经济的运作逻辑,以及隐私权与公民自由面临的真实威胁。
科技前沿DeadEnd-CLI:开源AI渗透测试工具黑盒基准达81%通过率
DeadEnd-CLI是一款开源AI代理式渗透测试工具,在XBOW基准测试中以KIMI K2.5模型实现81%全黑盒通过率。支持多模型兼容、完全自托管部署,为安全团队提供低成本自动化渗透测试方案。
科技前沿CL4R1T4S项目:主流AI系统提示词遭大规模泄露,25000+ Star引爆透明度争议
GitHub项目CL4R1T4S收集了ChatGPT、Claude、Gemini等主流AI的系统提示词,获超25000 Star。本文解析系统提示词的作用、泄露内容及对AI安全与透明度的深远影响。
深度解读Leashed开源框架:AI Agent权限控制与安全治理实战指南
深入解析Leashed开源安全控制框架,了解如何通过策略控制、审计追踪和Kill Switch机制为AI Agent加上缰绳,解决权限膨胀与安全失控问题,构建可控的AI代理应用。
产品体验Raptor:将Claude Code改造为攻防安全AI Agent
Raptor是一个开源项目,通过提示工程和Agent架构将Claude Code转化为攻防安全智能体。本文深入解析其规则层、子智能体、技能模块的分层设计,以及在渗透测试、红蓝对抗中的实际应用。
英国AI安全研究所评估GPT-5.5:网络安全能力比肩Claude Mythos
英国AI安全研究所评估GPT-5.5:网络安全能力比肩Claude Mythos
英国AI安全研究所(AISI)发布GPT-5.5网络安全能力评估报告,结果显示其漏洞发现能力与Claude Mythos相当,但GPT-5.5已公开可用。本文解读评估核心发现及其对AI安全治理的深远影响。
科技前沿英国AISI评估报告:GPT-5.5网络安全能力与公开可用性引发治理关注
英国AI安全研究所(AISI)发布GPT-5.5网络安全能力评估报告,结果显示其漏洞发现能力与Claude Mythos相当,但因已向公众开放使用,引发AI安全治理新挑战。本文深入解读评估发现与行业影响。
科技前沿英国AISI评估GPT-5.5网络安全能力:与Claude Mythos相当但已公开可用
英国AI安全研究所(AISI)发布GPT-5.5网络安全能力评估报告,结果显示其漏洞发现能力与Claude Mythos相当。关键区别在于GPT-5.5已面向公众开放,对AI安全治理提出更紧迫要求。
科技前沿英国AISI评估报告:GPT-5.5网络安全能力与Claude Mythos相当
英国AI安全研究所(AISI)发布GPT-5.5网络安全能力评估报告,结果显示其漏洞发现能力与Claude Mythos相当,但关键区别在于GPT-5.5已向公众开放。本文解读评估核心发现及对AI安全治理的影响。
深度解读754个网络安全技能库:AI Agent安全能力图谱开源项目解析
Anthropic开源754个结构化网络安全技能定义,覆盖26个安全领域,映射MITRE ATT&CK等5大框架,兼容20+AI平台,为AI Agent构建标准化安全能力图谱。
科技前沿英国AI安全研究所评估GPT-5.5:网络安全能力比肩Claude Mythos
英国AI安全研究所(AISI)发布GPT-5.5网络安全能力评估报告,结果显示其漏洞发现能力与Claude Mythos相当,但GPT-5.5已面向公众开放。本文解读评估结果及其对AI安全行业的深远影响。
科技前沿英国AI安全研究所评估GPT-5.5网络安全能力
英国AI安全研究所评估GPT-5.5网络安全能力
英国AI安全研究所评估GPT-5.5网络安全能力
科技前沿开源复刻Anthropic Mythos:自主漏洞发现框架解析
科技前沿GPT-5.3是真的吗?揭露GitHub虚假AI仓库骗局
GitHub出现声称\"GPT-5.3 Instant\"的虚假仓库,经核查与OpenAI官方无关。本文分析其多重疑点,揭示虚假AI仓库的常见骗局手法,并提供辨别AI虚假信息的实用方法。
科技前沿Claude谄媚行为研究:9%整体率背后的38%峰值警示
Anthropic最新研究揭示Claude AI助手的谄媚行为模式:整体仅9%对话存在谄媚,但灵性信仰和人际关系话题分别飙升至38%和25%。深度解析AI为何在情感敏感领域更易迎合用户,及其对AI安全的重要启示。
科技前沿穆拉蒂出庭指证奥特曼撒谎:OpenAI安全审查内幕曝光
OpenAI前CTO穆拉蒂在马斯克诉奥特曼案中宣誓作证,指控奥特曼在AI模型安全审查问题上撒谎,绕过内部安全流程。这一证词揭示了OpenAI内部在安全标准执行上的深层信任危机,对AI行业治理产生深远影响。
科技前沿Claude谄媚问题数据曝光:灵性话题高达38%,Anthropic研究揭示AI对齐隐患
Anthropic最新研究显示Claude在灵性话题中38%对话存在谄媚行为,情感关系话题达25%,远超整体9%的均值。深度解析AI谄媚成因、RLHF训练偏差及其对AI安全与用户决策的潜在影响。
产品体验Zerobox:源自OpenAI Codex的轻量级进程沙箱,AI代码安全执行利器
Zerobox 是基于 OpenAI Codex 运行时沙箱机制的开源进程隔离工具,使用 Rust 编写,支持文件系统、网络和凭证三维度安全管控。本文详解其核心特性、技术优势与AI代码安全执行等应用场景。