Saluki 27B
Conway Research发布的27B参数开放权重模型,采用IQ2量化压缩至约7.89GB,具备较强工具调用能力,采用Apache 2.0许可,支持本地部署。
时间轴 (近 90 天)
作为单一来源发布的性能数据,上述跑分仍需社区更广泛的复现验证,尤其是工具调用反超原版的反直觉结论
Underdog AI团队发布并全量开源了端侧大模型Saluki 27B 1.0
官方在九项综合权威基准测试中实测,Saluki平均保留了原版高达96%的性能
在基于伯克利BFCL V4榜单构建的Underdog Bench 120项函数调用测试中,Saluki 27B拿到88分,反超全尺寸原版的84分
BFCL官方100项并行工具调用测试中,Saluki斩获42分,超过原版的35分,成功率提升约20%
在SWE-Bench Verified基准的50个真实Issue中,Saluki成功解决30个,原版解决33个,保留约91%的实战修复力
Saluki在IFEval基准拿到93.5分(原版91.5分),IFBench中以72.7分超过原版的71.0分
Saluki在MBPP+取得78.0分,多步因果逻辑67.5分,AIME取得80.0分,保留原版82%~85%的数学推理能力
Saluki主模型专注文本与代码逻辑,支持32K上下文,需处理图像时额外下载约0.9GB的视觉投影插件M-Projector
Saluki采用标准GGUF格式,可用未修改的llama.cpp一行命令拉起服务,原生适配Qwen3对话模板
还有 12 条时间轴事件
全部知识事实 (20)
Saluki采用标准GGUF格式,可用未修改的llama.cpp一行命令拉起服务,原生适配Qwen3对话模板
50%待验证作为单一来源发布的性能数据,上述跑分仍需社区更广泛的复现验证,尤其是工具调用反超原版的反直觉结论
50%待验证Saluki支持思考模式灵活切换,默认开启长程思维链,高频工具调用时可单次关闭以实现快速响应
50%待验证官方在九项综合权威基准测试中实测,Saluki平均保留了原版高达96%的性能
50%待验证在基于伯克利BFCL V4榜单构建的Underdog Bench 120项函数调用测试中,Saluki 27B拿到88分,反超全尺寸原版的84分
50%待验证BFCL官方100项并行工具调用测试中,Saluki斩获42分,超过原版的35分,成功率提升约20%
50%待验证在SWE-Bench Verified基准的50个真实Issue中,Saluki成功解决30个,原版解决33个,保留约91%的实战修复力
50%待验证Saluki在IFEval基准拿到93.5分(原版91.5分),IFBench中以72.7分超过原版的71.0分
50%待验证Saluki在MBPP+取得78.0分,多步因果逻辑67.5分,AIME取得80.0分,保留原版82%~85%的数学推理能力
50%待验证Saluki主模型专注文本与代码逻辑,支持32K上下文,需处理图像时额外下载约0.9GB的视觉投影插件M-Projector
50%待验证Saluki 27B 采用 Apache 2.0 开源协议,可自由商用和二次开发
50%待验证Saluki 27B 在竞赛数学和复杂推理任务上相比原版有所退步
50%待验证若应用场景围绕工具调用、Agent编排、API集成,Saluki 27B是性价比高的选择;若核心需求是数学推理或复杂推演,全精度原版更稳妥
50%待验证Underdog Saluki 27B 是基于 Qwen3.8-27B 打造的 2-bit GGUF 量化版本
50%待验证Saluki 27B 的模型体积为 7.89 GB,而原始模型体积为 54 GB
50%待验证Saluki 27B 相比原版压缩了近 85% 的体积
50%待验证Saluki 27B 在工具调用能力上超越了全精度的原始模型
50%待验证Saluki 27B工具调用(tool calling)得分88分,采用Apache 2.0许可
50%待验证Saluki 27B可通过llama.cpp在本地CPU或GPU上运行,也支持Docker容器化部署
50%待验证Bonsai将27B模型从全精度的54GB压缩至3.9GB
50%