#端侧部署

共 3 篇相关文章

Cactus Compute推出17MB语音转录模型Whistle，性能接近Whisper Base和Moonshine Tiny V2，可部署于手机、树莓派和微控制器。本文介绍其安装方法、Flutter打包APK流程及端侧语音识别的实际表现与局限。

Mindscend团队用26.2M参数GECToR标注器击败Gemma 3 270M和SmolLM2 360M微调模型，手机端语法纠错F0.5达0.799，误改率仅2.4%，单句推理约4ms，模型以Apache-2.0协议开源。

EmbeddingGemma 2发布：740M参数的开源多模态端侧嵌入模型

谷歌发布开源多模态嵌入模型 EmbeddingGemma 2，仅740M参数即可处理文本、代码、图像、视频与音频任务，适合离线隐私优先的RAG应用，权重已在Hugging Face开放。