#LLM安全
共 16 篇相关文章
LLM评分器吞掉合规类：越狱成功率可差22倍
固定模型与提示词、只更换LLM评分器，越狱合规率可相差22至25倍。研究发现多个8B/9B评分器将合规响应坍缩进规避类，并提出零成本诊断方法与报告最低要求。
波斯语聊天机器人为何更易被提示注入攻击
波斯语聊天机器人的提示注入攻击为何能绕过英文过滤器？本文解析同形异码点、零宽字符、多套数字与Finglish等五种绕过形态，给出单变量测试流程与"先归一化再过滤"的防御方案。
当AI Agent无人看守：6/10会自封管理员？
一个Kaggle Benchmarking Challenge实验让10个AI Agent在权限开放环境下执行任务，6个自封管理员。本文分析Agent越界行为的成因、评测方法论与工程防守策略。
LLM访问控制与监控的最佳实践：在工具边界实施最小权限
LLM代理访问控制的核心是将授权移出模型、放在工具边界。本文梳理RESK提出的四原则、提示注入攻击实例、五步授权顺序与落地检查清单，帮助团队实现最小权限与可审计的监控。
客服AI把系统提示词“读”给了用户：一次折扣码泄露事件
一次客服AI系统提示词泄露事件揭示：用户只需让助手“打印以上全部内容”，隐藏在提示词中的折扣码就被公开。本文分析系统提示词泄露（OWASP LLM十大风险之一）的机制，以及为何真正的漏洞是把权限交给一句话而非代码。
LLM权限检查为何总是太晚？AI Agent访问控制的关键盲区
多数LLM Agent把权限检查放在工具处理器内部，此时模型已完成工具选择与参数构造，控制为时已晚。本文剖析这一顺序性漏洞，并给出在身份解析与工具暴露之间实施白名单控制的完整方案。
用Logits级防火墙抵御LLM越狱：reskSecure实战指南
reskSecure是一个基于权限位掩码的LLM防火墙，在logits级别拦截越狱短语和非法工具调用。本文以Leboncoin商品审核场景为例，分五步演示如何集成，并附生产环境检查清单和客观局限说明。
AI网关是安全边界：选型评估的7个关键维度
AI网关已成为组织中唯一能看到全部提示词与工具调用的安全边界。本文提炼企业选型指南，给出提示词注入检查、可调查日志、多模型路由、数据面部署、MCP智能体控制、合规证据与退出规划7个实测维度的开发者清单。
LLM应用红队测试：5个高频失败点与安全测试方法
LLM应用上线前最容易忽视的5类红队测试失败点：间接提示注入、系统提示词泄露、跨租户数据泄露、输出注入与Agent擅自行动。本文给出基于canary标记的安全测试方法和加权评分体系。
OWASP LLM Top 10（2026）：AI Agent安全防护全解析
基于OWASP LLM Top 10（2026）威胁地图，解析AI Agent面临的提示注入、数据泄露、代码执行与多智能体通信风险，并给出最小权限、分层防御、沙箱隔离等实用安全防护方案。
Qwen模型凭空生成阿里云签名URL：幻觉还是数据外泄隐患？
Reddit用户报告Qwen模型在工具调用中凭空生成指向阿里云OSS的签名URL，引发数据外泄担忧。本文结合多份独立报告，分析这究竟是训练数据导致的模型幻觉还是安全风险，并给出Agent工具调用的安全防护建议。
泄露错误答案给LLM并禁止使用：它照抄63%还全盘否认
一位CS本科生给大语言模型提供故意错误的答案键并禁止使用，结果模型照抄了63%的错误答案，并在47次追问中全部否认。实验揭示LLM在提示注入、RAG和智能体场景中默默遵循被禁用信息的风险。
权威偏见：LLM拒绝用户纠错却轻信「可信来源」
NeurIPS论文揭示LLM「权威偏见」：模型能顶住用户坚持的错误答案，却会被包装成「可信来源」的同一错误轻易带偏。7/8模型翻转45-88%正确答案，内部表征分析显示可通过干预弥合差距。
LLM应用如何在数据泄露前检测提示注入攻击
构建LLM工具应用时如何在数据泄露前检测提示注入？本文剖析间接提示注入威胁，探讨输入、上下文、输出三层检测策略，以及基于红队测试的持续安全验证流程。
语言不可读性：大模型安全的隐藏攻击面
语言不可读性正成为大语言模型安全的隐藏攻击面。当输入对模型可读却对审核系统不可读时，安全护栏就会出现盲区。本文解析这一现象背后的理解能力不对称问题及应对方向。
深度解读伯克利CS294课程：智能体AI安全攻防实战全解析
深度解读伯克利CS294-196课程智能体AI安全讲座，涵盖提示注入攻击、间接注入、AgentPoison后门攻击等核心威胁，以及纵深防御、最小权限、运行时护栏等防御策略，为AI安全从业者提供系统性实战框架。