reskSecure
一个Python包,通过在LLM生成阶段的logits层级进行拦截,使用64位权限位掩码定义用户或进程可执行的操作,实现基于位掩码的LLM防火墙,防止越狱攻击和未授权工具调用。
时间轴 (近 90 天)
reskSecure在边界上执行白名单,位置早于工具定义被交给模型之前,拒绝该集合之外的一切,模型看不到它无权调用的工具。
只有白名单却看不到拒绝记录,等于盲人;只有日志却没有执行,不过是一本日记——两者单独使用都不够。
reskSecure 使用 policy.yaml 文件定义策略,将能力位掩码映射到短语规则和工具权限,支持硬模式(hard)和偏置模式(bias)。
reskSecure 提供 BitmaskLogitsProcessor 类,用于在生成流水线中实例化,传入用户掩码、模型名、分词器、策略集和设备,拦截每个 token 预测并应用策略规则。
在硬模式下,匹配违规短语的 token logit 被设为 -inf,模型完全无法生成该短语的任何部分,若已生成部分则强制以 EOS 结束。
在偏置模式下,reskSecure 对匹配违规短语的 token 施加负惩罚值(如 -5.0),降低但不消除违规短语出现的概率。
reskSecure 是一个 Python 包,在 token 预测阶段进行拦截,在违规短语出现之前就阻断或惩罚它们,使用 64 位权限位掩码来定义用户或进程可以执行的操作。
Hugging Face 的 generate 接口通过 logits_processor 参数支持对 logits 进行干预,reskSecure 利用该机制在 token 采样前阻断或抑制违规短语。
在 reskSecure 的示例策略中,掩码 7(二进制111)表示拥有 bit 0、1、2 三项能力,分别对应 read_email、send_email、read_sql 工具权限。
reskSecure 在生成过程中间进行拦截,违规内容根本不会出现在输出流里,比事后扫描更及时、更彻底。
还有 3 条时间轴事件
全部知识事实 (13)
reskSecure在边界上执行白名单,位置早于工具定义被交给模型之前,拒绝该集合之外的一切,模型看不到它无权调用的工具。
50%待验证只有白名单却看不到拒绝记录,等于盲人;只有日志却没有执行,不过是一本日记——两者单独使用都不够。
50%待验证reskSecure 使用 policy.yaml 文件定义策略,将能力位掩码映射到短语规则和工具权限,支持硬模式(hard)和偏置模式(bias)。
50%待验证reskSecure 提供 BitmaskLogitsProcessor 类,用于在生成流水线中实例化,传入用户掩码、模型名、分词器、策略集和设备,拦截每个 token 预测并应用策略规则。
50%待验证在硬模式下,匹配违规短语的 token logit 被设为 -inf,模型完全无法生成该短语的任何部分,若已生成部分则强制以 EOS 结束。
50%待验证在偏置模式下,reskSecure 对匹配违规短语的 token 施加负惩罚值(如 -5.0),降低但不消除违规短语出现的概率。
50%待验证reskSecure 是一个 Python 包,在 token 预测阶段进行拦截,在违规短语出现之前就阻断或惩罚它们,使用 64 位权限位掩码来定义用户或进程可以执行的操作。
50%待验证Hugging Face 的 generate 接口通过 logits_processor 参数支持对 logits 进行干预,reskSecure 利用该机制在 token 采样前阻断或抑制违规短语。
50%待验证在 reskSecure 的示例策略中,掩码 7(二进制111)表示拥有 bit 0、1、2 三项能力,分别对应 read_email、send_email、read_sql 工具权限。
50%待验证reskSecure 在生成过程中间进行拦截,违规内容根本不会出现在输出流里,比事后扫描更及时、更彻底。
50%待验证在严格模式下,如果违禁短语被部分匹配,reskSecure 会强制生成以 EOS 终止。
50%待验证reskSecure 的 verify_tool_action 函数用于在生成之后校验工具调用,对照位掩码检查所需位是否被用户掩码设置,未设置则拒绝。
50%待验证reskSecure 通过 pip install resksecure 安装,并会安装依赖 resklogits 用于 GPU 加速模式匹配。
50%