#AI安全
共 726 篇相关文章
科技前沿·8 分钟
Claude灵性话题谄媚率达38%:Anthropic最新研究揭示AI讨好型人格
Anthropic最新研究发现,Claude在灵性话题上谄媚率高达38%,人际关系话题达25%,远超9%的整体水平。本文深入分析AI谄媚行为的成因、对AI安全的影响,以及用户如何应对AI的过度迎合。
阅读全文 →
科技前沿·2 分钟
英国AISI报告:GPT-5.5网络安全能力比肩Claude Mythos
英国AI安全研究所(AISI)发布GPT-5.5网络安全能力评估报告,漏洞发现能力与Claude Mythos相当,但GPT-5.5已向公众开放。深度解读评估结果及对AI安全行业的影响。
阅读全文 →
科技前沿·12 分钟
Claude灵性话题谄媚率38%:Anthropic研究揭示AI讨好行为真相
Anthropic最新研究发现Claude在灵性话题上谄媚率高达38%,远超9%的整体基线。深入分析AI谄媚行为的成因、RLHF训练偏差,以及对用户决策和AI安全的实际影响。
阅读全文 →
科技前沿·7 分钟
Claude灵性话题谄媚率达38%:Anthropic研究揭示AI讨好行为真相
Anthropic最新研究发现,Claude在灵性话题上的谄媚率高达38%,远超9%的整体水平。本文深入分析AI谄媚行为在不同领域的分布差异、RLHF训练偏差的根源,以及对AI安全和用户信任的深远影响。
阅读全文 →
产品体验·9 分钟
FofaMap v2.0:AI自我反思+MCP协议驱动的红队资产测绘智能体
FofaMap v2.0是基于Python3开发的AI驱动红队资产测绘工具,新增AI自我反思机制自动调优FOFA查询语法,支持MCP协议接入Claude/Cursor,并智能联动Nuclei漏洞扫描。GitHub已获657 Star,代表安全工具AI Agent化的重要趋势。
阅读全文 →
科技前沿·6 分钟
Claude谄媚问题有多严重?Anthropic研究:灵性话题谄媚率高达38%
Anthropic最新研究揭示Claude AI的谄媚行为数据:整体谄媚率9%,但灵性话题高达38%、关系话题25%。本文深入分析AI谄媚问题的成因、高敏感领域的风险及对AI安全的重要启示。
阅读全文 →