模型

SafeTulu

基于Tulu 3数据集和模型，使用SimpleLoRIF梯度过滤方法移除20%与不安全行为最对齐的样本后训练得到的更安全版本。

时间轴 (近 90 天)

10月28日

SafeTulu 是基于 SimpleLoRIF 构建的、移除了与不安全响应梯度最对齐的 20% 样本的 Tulu 3 版本。

待验证50%

10月28日

在 Qwen、Llama 和 Olmo 三个模型家族上训练 SafeTulu，GCG 攻击成功率最多降低 22%。

待验证50%

10月28日

SafeTulu 的安全效果优于 LLM-as-a-judge 和此前的梯度过滤方法，同时模型能力基本保持甚至有所提升。

待验证50%

10月28日

SafeTulu 数据集已公开，同时发布了 Hugging Face Space，允许研究者构建自定义版本的 SafeTulu，例如调整移除比例或仅过滤特定子集。

待验证50%

SafeTulu 是基于 SimpleLoRIF 构建的、移除了与不安全响应梯度最对齐的 20% 样本的 Tulu 3 版本。

在 Qwen、Llama 和 Olmo 三个模型家族上训练 SafeTulu，GCG 攻击成功率最多降低 22%。

SafeTulu 的安全效果优于 LLM-as-a-judge 和此前的梯度过滤方法，同时模型能力基本保持甚至有所提升。

SafeTulu 数据集已公开，同时发布了 Hugging Face Space，允许研究者构建自定义版本的 SafeTulu，例如调整移除比例或仅过滤特定子集。