Gemma 2B
Google推出的Gemma系列轻量级开放权重语言模型中的20亿参数版本,适合本地部署和微调
时间轴 (近 90 天)
Phi-3 Mini、Gemma 2B、Llama 3.2 1B 是代表性的小型语言模型(SLM),参数量通常在 1B–7B 之间
Le Chonk 在本地微调任务中获得 10/10,完整走完生成熊猫知识数据集、本地微调 Gemma 2B 模型、训练 400 步 LoRA 适配器、将验证损失从约 7.97 降到 0.31 的全流程
编排器采用双模型协作机制:Gemma 2B 负责意图路由,Gemma 4 负责复杂任务和最终答案合成
博主推荐在树莓派上只保留一个模型时选择Gemma 2B,因其通过所有测试且是入围者中最快的
通过全部四项任务的三款模型是30亿参数的Granite、Gemma 2B和Gemma 4B
0.8B 参数与 Meta 的 LLaMA 3.2 1B、Google 的 Gemma 2B 同属超小模型梯队,接近早期 GPT-2(1.5B)的量级下限
小型语言模型参数量通常在数亿到数十亿之间,如微软Phi-3(3.8B)、谷歌Gemma 2B、Meta Llama 3.2(1B/3B)
Llama 3.2 3B、Phi-3 Mini 3.8B、Gemma 2B 等小模型在简单问答、文本摘要和工具调用任务上具备实用能力,但在复杂推理、长文本理解和多轮对话一致性上仍与 GPT-4、Claude 等云端旗舰模型存在明显差距
全部知识事实 (8)
Phi-3 Mini、Gemma 2B、Llama 3.2 1B 是代表性的小型语言模型(SLM),参数量通常在 1B–7B 之间
50%待验证Le Chonk 在本地微调任务中获得 10/10,完整走完生成熊猫知识数据集、本地微调 Gemma 2B 模型、训练 400 步 LoRA 适配器、将验证损失从约 7.97 降到 0.31 的全流程
50%待验证编排器采用双模型协作机制:Gemma 2B 负责意图路由,Gemma 4 负责复杂任务和最终答案合成
50%待验证博主推荐在树莓派上只保留一个模型时选择Gemma 2B,因其通过所有测试且是入围者中最快的
50%待验证通过全部四项任务的三款模型是30亿参数的Granite、Gemma 2B和Gemma 4B
50%待验证0.8B 参数与 Meta 的 LLaMA 3.2 1B、Google 的 Gemma 2B 同属超小模型梯队,接近早期 GPT-2(1.5B)的量级下限
50%待验证小型语言模型参数量通常在数亿到数十亿之间,如微软Phi-3(3.8B)、谷歌Gemma 2B、Meta Llama 3.2(1B/3B)
50%待验证Llama 3.2 3B、Phi-3 Mini 3.8B、Gemma 2B 等小模型在简单问答、文本摘要和工具调用任务上具备实用能力,但在复杂推理、长文本理解和多轮对话一致性上仍与 GPT-4、Claude 等云端旗舰模型存在明显差距
50%