Gemma
Gemma是Google发布的开源大型语言模型系列,基于与Gemini相同的研究和技术构建。该模型系列提供多种参数规模的版本,适用于文本生成、问答、代码辅助等自然语言处理任务。Gemma以轻量高效为设计目标,支持在消费级硬件上本地部署,开发者可免费获取模型权重并进行微调和二次开发。
核心事实
时间轴 (近 90 天)
Cuadre 以 temperature: 0 运行 Gemma 并关闭思考模式,以确保同一张照片得到一致的读取结果。
在测试中,Gemma 在全部六张小票上都把标签“ITBMS 7%”复制到 itbms 字段而非金额;修复方式是让 Gemma 返回完整印刷行,由代码提取最后一个金额。
Cuadre 是一个开源项目,使用本地运行的 Gemma 模型自动从巴拿马小票照片中提取信息并生成税务表格(CSV、汇总 Markdown 和待复核清单)。
使用 Ollama 运行 Gemma 时,Cuadre 唯一的网络连接是 localhost:11434,且代码不接受其他地址,确保小票数据不离开本机。
Cuadre 的核心设计原则是“模型转录,代码计算”:Gemma 仅负责照抄小票上的印刷内容,所有算术、校验和汇总由普通 Python 代码完成。
IdleWheels 的定价功能采用让 Gemma 分类车辆档次(经济型、标准型、高端型),再由费率表计算价格的方式,以避免小模型在算术上的不一致。
IdleWheels 在照片对比中要求 Gemma 先描述照片1、再描述照片2、然后列出变化,以基于模型刚看到的内容进行判断。
IdleWheels 允许 Gemma 在照片视角不一致或无法确定时回答 unsure 并发出标记。
Pricor 公布的基准测试使用来自两家经销商的 29 个留出列:关键词/类型启发式正确 24/29(82.8%),Laya 零样本 18/29(62.1%),Laya 微调后 22/29(75.9%),Gemma 纯提示 25/29(86.2%)。
Pricor 的记忆机制只在用户主动写下记忆或接受 Gemma 建议并点击“记住这个”时创建,绝不自动生成;相关记忆以编号的不可信数据形式传给 Gemma,Gemma 必须引用它所依赖的记忆,引用未提供的记忆会使整条回复被丢弃。
还有 40 条时间轴事件
全部知识事实 (20)
Gemma是Google DeepMind基于Gemini模型技术开发的开源模型系列
90%已验证开放权重模型指参数权重文件向公众开放下载,可本地部署微调,但训练数据和完整源码不一定公开,区别于完全开源
80%已验证DiffusionGemma是将Google Gemma架构与扩散生成范式融合的实验性模型
80%已验证Ollama是一款开源的本地大模型运行框架,支持在个人电脑上一键部署各种开源大语言模型
80%已验证Gemma 是 Google 于 2024 年推出的一系列开放权重语言模型,名称源自拉丁语「gemma」(宝石),与 Gemini 同源但定位不同:Gemini 是 Google 面向云端部署的旗舰闭源模型,Gemma 则专注于在有限算力环境中运行。
75%已验证1750亿参数模型仅模型权重(BF16精度)就需350GB存储,Adam优化器需维护一阶矩和二阶矩两份状态,合计超过1TB
75%已验证Ollama 是本地大模型运行工具,监听在 11434 端口,默认不设认证,提供包括 /api/pull、/api/create、/api/chat 等模型管理和推理的 REST API
65%已验证Gemma是Google推出的轻量级开源模型系列,强调在有限算力下的高效表现
65%已验证当前开源大模型领域形成多极竞争格局,包括Meta的Llama、阿里巴巴的Qwen、Mistral AI和DeepSeek
65%已验证Gemma是Google于2024年发布的轻量级开源语言模型家族,参数规模从2B到7B不等
65%已验证Meta的LLaMA系列、Google的Gemma、Mistral AI的Mistral/Mixtral、阿里的Qwen系列都在Transformers中获得支持
65%已验证Gemma系列模型采用SigLIP视觉编码器来处理图像输入
65%已验证Gemma是Google DeepMind于2024年初发布的开源轻量级语言模型家族,通过知识蒸馏技术精炼而来
65%待验证可用于本地部署的模型从轻量级的Phi-3、Gemma到重量级的Llama 3、Qwen2.5都可以根据硬件条件自由切换
90%待验证Meta 的 LLaMA 系列、Mistral AI 的 Mistral/Mixtral、Google 的 Gemma 等开源模型都选择通过 Hugging Face 平台和 Transformers 格式进行发布
90%待验证微软Phi-3最小版本仅3.8B参数,Google Gemma有2B和7B两个规格
90%待验证小语言模型(SLM)通常指参数量在数亿到数十亿级别的模型,代表包括Microsoft的Phi系列和Google的Gemma系列
90%待验证微软的Phi系列小模型和Google的Gemma都大量使用了合成数据进行训练
85%待验证Gemma系列采用了分组查询注意力(GQA)和RoPE位置编码等Transformer架构改进技术
80%待验证2024年以来,Mistral、Phi、Gemma等小型模型通过更精细的数据筛选、知识蒸馏和训练策略优化,在特定任务上逼近甚至超越了体量数倍于己的大模型
80%