模型Qwen2.5-3B
qwen2.5:3b
阿里巴巴通义千问团队发布的小参数语言模型,3.09B参数,Apache 2.0许可,适合在低内存设备上本地运行。
时间轴 (近 90 天)
10月18日
SoloBooks AI 通过 Ollama 本地 API(127.0.0.1:11434)进行 AI 提取,验证了 llama3:latest(8.03B 参数)和 qwen2.5:3b(3.09B 参数)两个模型。
待验证50%
10月14日
relnotes 不绑定特定模型服务,而是对接任何 OpenAI 兼容端点,默认使用 Ollama 的 qwen2.5:3b 模型,并可通过 flag 切换到 LM Studio、llama.cpp 或 vLLM。
待验证50%
10月11日
在模型对比测试中qwen2.5:3b正确理解配速,幻觉地名0个,长度误差0.3%,峰值内存259MB,耗时106秒
待验证50%
10月11日
测试中三个模型qwen2.5:3b、qwen2.5:1.5b、llama3.2:1b都把模型内存控制在0.5GB以下,且幻觉地名均为0
待验证50%
全部知识事实 (4)
待验证
SoloBooks AI 通过 Ollama 本地 API(127.0.0.1:11434)进行 AI 提取,验证了 llama3:latest(8.03B 参数)和 qwen2.5:3b(3.09B 参数)两个模型。
50%待验证relnotes 不绑定特定模型服务,而是对接任何 OpenAI 兼容端点,默认使用 Ollama 的 qwen2.5:3b 模型,并可通过 flag 切换到 LM Studio、llama.cpp 或 vLLM。
50%待验证在模型对比测试中qwen2.5:3b正确理解配速,幻觉地名0个,长度误差0.3%,峰值内存259MB,耗时106秒
50%待验证测试中三个模型qwen2.5:3b、qwen2.5:1.5b、llama3.2:1b都把模型内存控制在0.5GB以下,且幻觉地名均为0
50%