[控场AI]

#AI安全

共 726 篇相关文章

Agent可观测性完整方案:追踪、评估与Red Teaming实战指南
教程攻略
·11 分钟

Agent可观测性完整方案:追踪、评估与Red Teaming实战指南

深入解析Microsoft Foundry的Agent可观测性方案,涵盖多Agent追踪、AI质量评估、Red Teaming安全测试及Prompt自动优化,帮助开发者弥合Agent预期行为与实际表现的差距。

阅读全文 →
边境无处不在:安全监控技术如何渗透日常生活
行业洞察
·7 分钟

边境无处不在:安全监控技术如何渗透日常生活

安全监控技术正从国境线向城市街道、学校和手机蔓延。本文深度剖析AI监控、面部识别与预测性警务的扩张趋势,探讨恐惧经济的运作逻辑,以及隐私权与公民自由面临的真实威胁。

阅读全文 →
DeadEnd-CLI:开源AI渗透测试工具黑盒基准达81%通过率
科技前沿
·6 分钟

DeadEnd-CLI:开源AI渗透测试工具黑盒基准达81%通过率

DeadEnd-CLI是一款开源AI代理式渗透测试工具,在XBOW基准测试中以KIMI K2.5模型实现81%全黑盒通过率。支持多模型兼容、完全自托管部署,为安全团队提供低成本自动化渗透测试方案。

阅读全文 →
CL4R1T4S项目:主流AI系统提示词遭大规模泄露,25000+ Star引爆透明度争议
科技前沿
·8 分钟

CL4R1T4S项目:主流AI系统提示词遭大规模泄露,25000+ Star引爆透明度争议

GitHub项目CL4R1T4S收集了ChatGPT、Claude、Gemini等主流AI的系统提示词,获超25000 Star。本文解析系统提示词的作用、泄露内容及对AI安全与透明度的深远影响。

阅读全文 →
Leashed开源框架:AI Agent权限控制与安全治理实战指南
深度解读
·8 分钟

Leashed开源框架:AI Agent权限控制与安全治理实战指南

深入解析Leashed开源安全控制框架,了解如何通过策略控制、审计追踪和Kill Switch机制为AI Agent加上缰绳,解决权限膨胀与安全失控问题,构建可控的AI代理应用。

阅读全文 →
Raptor:将Claude Code改造为攻防安全AI Agent
产品体验
·7 分钟

Raptor:将Claude Code改造为攻防安全AI Agent

Raptor是一个开源项目,通过提示工程和Agent架构将Claude Code转化为攻防安全智能体。本文深入解析其规则层、子智能体、技能模块的分层设计,以及在渗透测试、红蓝对抗中的实际应用。

阅读全文 →
科技前沿

英国AI安全研究所评估GPT-5.5:网络安全能力比肩Claude Mythos

·6 分钟

英国AI安全研究所评估GPT-5.5:网络安全能力比肩Claude Mythos

英国AI安全研究所(AISI)发布GPT-5.5网络安全能力评估报告,结果显示其漏洞发现能力与Claude Mythos相当,但GPT-5.5已公开可用。本文解读评估核心发现及其对AI安全治理的深远影响。

阅读全文 →
英国AISI评估报告:GPT-5.5网络安全能力与公开可用性引发治理关注
科技前沿
·8 分钟

英国AISI评估报告:GPT-5.5网络安全能力与公开可用性引发治理关注

英国AI安全研究所(AISI)发布GPT-5.5网络安全能力评估报告,结果显示其漏洞发现能力与Claude Mythos相当,但因已向公众开放使用,引发AI安全治理新挑战。本文深入解读评估发现与行业影响。

阅读全文 →
英国AISI评估GPT-5.5网络安全能力:与Claude Mythos相当但已公开可用
科技前沿
·7 分钟

英国AISI评估GPT-5.5网络安全能力:与Claude Mythos相当但已公开可用

英国AI安全研究所(AISI)发布GPT-5.5网络安全能力评估报告,结果显示其漏洞发现能力与Claude Mythos相当。关键区别在于GPT-5.5已面向公众开放,对AI安全治理提出更紧迫要求。

阅读全文 →
英国AISI评估报告:GPT-5.5网络安全能力与Claude Mythos相当
科技前沿
·9 分钟

英国AISI评估报告:GPT-5.5网络安全能力与Claude Mythos相当

英国AI安全研究所(AISI)发布GPT-5.5网络安全能力评估报告,结果显示其漏洞发现能力与Claude Mythos相当,但关键区别在于GPT-5.5已向公众开放。本文解读评估核心发现及对AI安全治理的影响。

阅读全文 →
754个网络安全技能库:AI Agent安全能力图谱开源项目解析
深度解读
·9 分钟

754个网络安全技能库:AI Agent安全能力图谱开源项目解析

Anthropic开源754个结构化网络安全技能定义,覆盖26个安全领域,映射MITRE ATT&CK等5大框架,兼容20+AI平台,为AI Agent构建标准化安全能力图谱。

阅读全文 →
英国AI安全研究所评估GPT-5.5:网络安全能力比肩Claude Mythos
科技前沿
·6 分钟

英国AI安全研究所评估GPT-5.5:网络安全能力比肩Claude Mythos

英国AI安全研究所(AISI)发布GPT-5.5网络安全能力评估报告,结果显示其漏洞发现能力与Claude Mythos相当,但GPT-5.5已面向公众开放。本文解读评估结果及其对AI安全行业的深远影响。

阅读全文 →