Gemma
Gemma是Google发布的开源大型语言模型系列,基于与Gemini相同的研究和技术构建。该模型系列提供多种参数规模的版本,适用于文本生成、问答、代码辅助等自然语言处理任务。Gemma以轻量高效为设计目标,支持在消费级硬件上本地部署,开发者可免费获取模型权重并进行微调和二次开发。
核心事实
时间轴 (近 90 天)
Gemma开源模型通过vLLM在A100上实现了2.85倍的端到端推理加速,吞吐量从约37,900 tokens/秒提升至超过108,000 tokens/秒,且保持100% token一致性和零质量下降。
CyberTools Hub AI 拟议的MVP技术栈为:前端React、后端Python + FastAPI、AI推理使用兼容的开源权重模型(如Gemma)本地部署、存储使用SQLite、测试数据使用合成SSH认证日志和应用日志。
CyberTools Hub AI 选择基于开源权重模型(如Google的Gemma)而非完全依赖专有托管的AI API,原因是数据控制权、可预测的运营成本、实验自由度和降低供应商依赖。
开源权重指模型参数可以下载和本地执行,但训练代码、训练数据以及使用条款未必开放;Gemma采用自定义的Gemma使用条款。
应用层的开源许可证(如MIT)只约束开发者写的代码,不能替代或覆盖模型本身的条款,商用前需要单独确认模型许可。
Gemma是Google发布的一系列开源权重语言模型,1B指约10亿参数的最小尺寸版本,适合在消费级笔记本上运行。
在纯CPU环境下对比llama.cpp build 9976与build 11571运行同一Gemma量化模型,新构建的生成速度比旧构建快约9.1%(6.60 vs 6.05 tok/s)
在同一实验中,新构建的预填充速度反而比旧构建慢约6.5%(11.14 vs 11.91 tok/s)
Liquid 没有公布 d1-3B 与 Qwen2.5-VL-3B 或 Gemma 的对比,也没有公布校准误差数据(如 ECE 或可靠性图)。
'Best Use of Gemma'奖项类别由 Google 赞助,评估标准侧重对 Gemma 系列模型的创意性与实用性应用
还有 40 条时间轴事件
全部知识事实 (20)
Gemma是Google DeepMind基于Gemini模型技术开发的开源模型系列
90%已验证开放权重模型指参数权重文件向公众开放下载,可本地部署微调,但训练数据和完整源码不一定公开,区别于完全开源
80%已验证DiffusionGemma是将Google Gemma架构与扩散生成范式融合的实验性模型
80%已验证1750亿参数模型仅模型权重(BF16精度)就需350GB存储,Adam优化器需维护一阶矩和二阶矩两份状态,合计超过1TB
75%已验证当前开源大模型领域形成多极竞争格局,包括Meta的Llama、阿里巴巴的Qwen、Mistral AI和DeepSeek
65%已验证Gemma是Google于2024年发布的轻量级开源语言模型家族,参数规模从2B到7B不等
65%已验证Gemma系列主要包含2B和7B两个参数规模版本,2025年发布的Gemma 3系列进一步扩展至27B并支持多模态输入
65%已验证Meta的LLaMA系列、Google的Gemma、Mistral AI的Mistral/Mixtral、阿里的Qwen系列都在Transformers中获得支持
65%已验证Gemma系列模型采用SigLIP视觉编码器来处理图像输入
65%已验证Gemma是Google DeepMind于2024年初发布的开源轻量级语言模型家族,通过知识蒸馏技术精炼而来
65%待验证可用于本地部署的模型从轻量级的Phi-3、Gemma到重量级的Llama 3、Qwen2.5都可以根据硬件条件自由切换
90%待验证Meta 的 LLaMA 系列、Mistral AI 的 Mistral/Mixtral、Google 的 Gemma 等开源模型都选择通过 Hugging Face 平台和 Transformers 格式进行发布
90%待验证微软Phi-3最小版本仅3.8B参数,Google Gemma有2B和7B两个规格
90%待验证小语言模型(SLM)通常指参数量在数亿到数十亿级别的模型,代表包括Microsoft的Phi系列和Google的Gemma系列
90%待验证微软的Phi系列小模型和Google的Gemma都大量使用了合成数据进行训练
85%待验证Gemma系列采用了分组查询注意力(GQA)和RoPE位置编码等Transformer架构改进技术
80%待验证2024年以来,Mistral、Phi、Gemma等小型模型通过更精细的数据筛选、知识蒸馏和训练策略优化,在特定任务上逼近甚至超越了体量数倍于己的大模型
80%待验证Google的Gemma开源策略与Meta开源LLaMA系列的战略逻辑高度相似,旨在以开放生态对抗OpenAI的闭源路线
80%待验证Meta的LLaMA、Google的Gemma等开源模型均通过HuggingFace平台分发
70%待验证Gemma是Google推出的轻量级开源模型系列,强调在有限算力下的高效表现
60%