all-MiniLM-L6-v2
一个经过知识蒸馏的小型句向量模型,基于MiniLM架构,体积小、推理速度快,适合本地部署,常用于生成句子嵌入。
时间轴 (近 90 天)
对客服Agent的参考一致性检查,可用轻量模型如all-MiniLM-L6-v2本地运行,阈值从0.75起调。
all-MiniLM-L6-v2 是一个约 80MB 的开源句子嵌入模型,常被本地应用选作默认方案,Bees 本地记忆功能依赖它将文本编码为向量进行存储和检索
Bees 首次启动时通过 uv 下载 Python 3.12(来自 GitHub)、记忆相关包(来自 PyPI)以及嵌入模型 all-MiniLM-L6-v2(来自 Hugging Face)以初始化本地记忆
all-MiniLM-L6-v2 嵌入模型约有 2200 万参数,量化 CPU 版本仅 23MB,WebGPU 版本 90MB。
小型的专用模型(如嵌入模型)在特定任务上可能比通用大语言模型更适合,尤其是在隐私敏感场景中。
基于RTX A6000上约250词的块测算,all-MiniLM-L6-v2每秒处理1,074.7个块,100万块耗时约16分钟;Qwen3-Embedding-8B每秒处理26.1个块,100万块耗时约10.6小时
在Apple M4(16GB内存)上通过ChromaDB运行all-MiniLM-L6-v2,161.6秒嵌入50,000篇文档(每秒309篇),无需独立GPU
纯英文模型all-MiniLM-L6-v2在跨语言测试中失败:查询'¿Dónde está el gatito?'时给西语句'El gato duerme en la alfombra.'打了最高分0.616,但这是拼写重叠(共享el、ga、##to等片段)而非语义理解,同时它把英文猫句子排到了最后。
paraphrase-multilingual-MiniLM-L12-v2是Sentence Transformers库提供的多语言句子嵌入模型,它把12层Transformer编码器的输出通过平均池化压缩成384维向量,支持约50种语言。
分类器同时使用TF-IDF词特征和all-MiniLM-L6-v2生成的句向量,两者拼接后训练balanced logistic regression分类器。
还有 2 条时间轴事件
全部知识事实 (13)
FastEmbed支持sentence-transformers/all-MiniLM-L6-v2和mixedbread-ai/mxbai-embed-large-v1等多种预训练模型
90%待验证对客服Agent的参考一致性检查,可用轻量模型如all-MiniLM-L6-v2本地运行,阈值从0.75起调。
50%待验证all-MiniLM-L6-v2 是一个约 80MB 的开源句子嵌入模型,常被本地应用选作默认方案,Bees 本地记忆功能依赖它将文本编码为向量进行存储和检索
50%待验证Bees 首次启动时通过 uv 下载 Python 3.12(来自 GitHub)、记忆相关包(来自 PyPI)以及嵌入模型 all-MiniLM-L6-v2(来自 Hugging Face)以初始化本地记忆
50%待验证小型的专用模型(如嵌入模型)在特定任务上可能比通用大语言模型更适合,尤其是在隐私敏感场景中。
50%待验证all-MiniLM-L6-v2 嵌入模型约有 2200 万参数,量化 CPU 版本仅 23MB,WebGPU 版本 90MB。
50%待验证基于RTX A6000上约250词的块测算,all-MiniLM-L6-v2每秒处理1,074.7个块,100万块耗时约16分钟;Qwen3-Embedding-8B每秒处理26.1个块,100万块耗时约10.6小时
50%待验证在Apple M4(16GB内存)上通过ChromaDB运行all-MiniLM-L6-v2,161.6秒嵌入50,000篇文档(每秒309篇),无需独立GPU
50%待验证paraphrase-multilingual-MiniLM-L12-v2是Sentence Transformers库提供的多语言句子嵌入模型,它把12层Transformer编码器的输出通过平均池化压缩成384维向量,支持约50种语言。
50%待验证纯英文模型all-MiniLM-L6-v2在跨语言测试中失败:查询'¿Dónde está el gatito?'时给西语句'El gato duerme en la alfombra.'打了最高分0.616,但这是拼写重叠(共享el、ga、##to等片段)而非语义理解,同时它把英文猫句子排到了最后。
50%待验证分类器同时使用TF-IDF词特征和all-MiniLM-L6-v2生成的句向量,两者拼接后训练balanced logistic regression分类器。
50%待验证all-MiniLM-L6-v2是384维的开源句向量模型,模型大小约80MB,可在普通CPU上以毫秒级延迟完成单条编码
50%待验证本地可运行的 sentence-transformers 系列模型(如 all-MiniLM-L6-v2)能完全离线工作,而 OpenAI 的 text-embedding-3-small 等云端模型精度较高但需要联网
50%