#嵌入模型

共 9 篇相关文章

Perplexity发布pplx-embed-v2-late多语言多模态检索模型，含0.6B与9B两版，经18B教师模型蒸馏共享嵌入空间，支持9B索引、0.6B查询的非对称部署，视觉文档检索表现突出。

2026年本地嵌入模型选型实战指南：Qwen3-Embedding与EmbeddingGemma 2的硬件需求、显存占用、存储成本与API费用对比，涵盖索引性能、量化压缩、模型迁移和隐私风险。

Google DeepMind 开源 EmbeddingGemma 2 多模态嵌入模型，740M 参数支持文本、代码、图像、视频、音频统一检索，端侧运行文本模式仅需 191MB 内存，MTEB Code 分数从 68.76 提升至 78.68，Apache 2.0 许可。

除了语义搜索，还有哪些实验能帮你深入理解嵌入模型？本文梳理向量算术、聚类可视化、各向异性分析、跨语言对齐与鲁棒性测试等动手实验方向，培养对高维向量空间的工程直觉。

EmbeddingGemma 2 开源嵌入模型支持用自己的数据微调。本文详解多重负样本排序损失、LoRA 轻量训练、按来源切分测试，以及实测如何把声音分类准确率从 25% 提升到 66%、视频字幕检索从 2/3 提升到 3/4，并揭示共享主干带来的代价与踩坑经验。

Perplexity开源多向量嵌入模型pplx-embed-v2-late，提供9B索引版与0.6B端侧版，共享嵌入空间，支持免OCR的PDF页面检索，MADQA达92.4%，权重已上线Hugging Face。

谷歌发布 EmbeddingGemma 2，740M 参数的原生多模态端侧开源嵌入模型，支持文字、代码、图片、音频、视频映射到同一向量空间。本文解析其模块化架构、跑分表现、8K 上下文及端侧部署要点。

Perplexity发布预览版上下文嵌入模型pplx-embed-v2-context-9b，采用在编码每个分块时纳入整篇文档的新训练方法，在ConTEB和turbopuffer私有基准context-bench上刷新最佳成绩，有望改善RAG长文档检索的信息损失问题。

为什么嵌入模型（embedding）常用 1536 维？本文从 Transformer 架构继承、注意力头整除、硬件对齐以及质量与成本的权衡，解析 1536 维背后的工程逻辑与生态原因。