text-embedding-3-small
OpenAI发布的第三代小型文本Embedding模型,相比ada-002在语义区分度上有所提升,噪声地板更低
核心事实
时间轴 (近 90 天)
在LLM前加一层基于embedding的语义缓存,余弦相似度阈值设为0.92且模型一致时直接返回缓存结果,约30%的重复用户查询命中缓存,整体支出再降约20%。
OpenAI text-embedding-3-small定价为0.02美元/百万token,5亿token的初始语料库一次性嵌入花费10美元,月度刷新约1美元,每次查询嵌入成本约0.000001美元。
不同模型的嵌入不可比较,所以要在每个块旁边存储模型名称和维度;1536维对应OpenAI text-embedding-3-small的默认输出长度。
OpenAI的text-embedding-3-small等Embedding模型按调用量计费,其使用成本低于更贵的模型,但检索效果存在明显差距。
在AI FAQ场景中,RAG通常分为离线与在线两阶段:离线阶段将FAQ文档切分为chunk,通过embedding模型转为向量后存入向量数据库;在线阶段将用户问题向量化,用余弦相似度召回top-k段落,再交由LLM合成答案
主流嵌入模型如 OpenAI text-embedding-3-small、BGE系列轻量版本通常在100M–500M参数量级
嵌入模型(如 text-embedding-3-small/large、text-embedding-004)与负责对话的 LLM 是两个独立的模型
Embedding 模型(如 BGE、text-embedding-3-small)相比 LLM 体量小得多,通常可跑在 CPU 或低规格 GPU 上,推理耗时在毫秒级
本地可运行的 sentence-transformers 系列模型(如 all-MiniLM-L6-v2)能完全离线工作,而 OpenAI 的 text-embedding-3-small 等云端模型精度较高但需要联网
RAG 管道中文档通过嵌入模型转换为高维向量表示,通常为 768 至 3072 维
还有 3 条时间轴事件
全部知识事实 (13)
OpenAI 的 text-embedding-3-small 模型会将文本转换为 1536 维的浮点数数组
80%待验证在LLM前加一层基于embedding的语义缓存,余弦相似度阈值设为0.92且模型一致时直接返回缓存结果,约30%的重复用户查询命中缓存,整体支出再降约20%。
50%待验证OpenAI text-embedding-3-small定价为0.02美元/百万token,5亿token的初始语料库一次性嵌入花费10美元,月度刷新约1美元,每次查询嵌入成本约0.000001美元。
50%待验证不同模型的嵌入不可比较,所以要在每个块旁边存储模型名称和维度;1536维对应OpenAI text-embedding-3-small的默认输出长度。
50%待验证OpenAI的text-embedding-3-small等Embedding模型按调用量计费,其使用成本低于更贵的模型,但检索效果存在明显差距。
50%待验证在AI FAQ场景中,RAG通常分为离线与在线两阶段:离线阶段将FAQ文档切分为chunk,通过embedding模型转为向量后存入向量数据库;在线阶段将用户问题向量化,用余弦相似度召回top-k段落,再交由LLM合成答案
50%待验证主流嵌入模型如 OpenAI text-embedding-3-small、BGE系列轻量版本通常在100M–500M参数量级
50%待验证嵌入模型(如 text-embedding-3-small/large、text-embedding-004)与负责对话的 LLM 是两个独立的模型
50%待验证Embedding 模型(如 BGE、text-embedding-3-small)相比 LLM 体量小得多,通常可跑在 CPU 或低规格 GPU 上,推理耗时在毫秒级
50%待验证本地可运行的 sentence-transformers 系列模型(如 all-MiniLM-L6-v2)能完全离线工作,而 OpenAI 的 text-embedding-3-small 等云端模型精度较高但需要联网
50%待验证RAG 管道中文档通过嵌入模型转换为高维向量表示,通常为 768 至 3072 维
50%待验证OpenAI 的 text-embedding-3-small 输出 1536 维向量,嵌入向量维度通常在 384 到 1536 之间
50%待验证text-embedding-3-small的向量维度为1536维,BGE-small为384维
50%