Milvus

RAG（检索增强生成）技术架构将文档切片、向量化、存入向量数据库，查询时先检索相关片段再交给模型生成回答

RAG工作流程分离线和在线两阶段：离线将文档切分转化为向量存入向量数据库，在线将问题转化为向量通过ANN算法检索最相似文本片段拼接进上下文

RAG通过向量数据库（如Faiss、Chroma、Milvus、Pinecone）将文档转化为高维嵌入向量存储，在推理时基于语义相似度检索相关上下文注入提示词，用于解决LLM知识时效性和幻觉问题

Chroma适合轻量级原型开发和本地实验，Milvus和Pinecone面向生产级大规模场景，支持分布式部署和亿级向量的高效检索

向量数据库（如ChromaDB、Milvus、Pinecone）采用HNSW、IVF等索引算法，能在百万甚至亿级向量中实现毫秒级检索

常见的向量数据库包括ChromaDB、Milvus、Pinecone、Weaviate，它们针对高维向量的近似最近邻（ANN）搜索进行了专门优化

Milvus、Pinecone、Chroma是用于存储和检索文本向量的向量数据库，是RAG架构的核心组件

向量数据库（如Pinecone、Weaviate、Milvus等）通过嵌入模型将文本转化为高维向量，使用余弦相似度或欧氏距离进行近似最近邻（ANN）搜索

Milvus是开源向量数据库，支持十亿级向量检索，适合生产环境

长期记忆Agent通常基于RAG（检索增强生成）技术构建，通过向量数据库将信息转化为高维向量并持久化存储

长期记忆通常借助向量数据库（如Chroma、Pinecone、Weaviate、Milvus等）来实现语义检索

向量数据库的核心操作是近似最近邻搜索（ANN），通过HNSW、IVF等索引算法将相似度计算加速到毫秒级响应

RAG实现中文本通过嵌入模型转化为高维向量，存储在Pinecone、Weaviate、Milvus等向量数据库中，查询时通过余弦相似度找到最接近的片段

典型的RAG流程包括文档切片、向量化嵌入、存入向量数据库、语义检索、上下文拼接和最终生成六个步骤

主流向量数据库包括Faiss、Milvus、Qdrant、Weaviate，能在毫秒级完成百万级向量的近似最近邻（ANN）搜索

RAG索引阶段将文档切片并通过Embedding模型转换为向量，存入向量数据库如Faiss、Pinecone、Weaviate

在科研场景中，RAG通常与向量数据库如Pinecone、Weaviate结合使用

RAG的关键组件包括Embedding模型（如OpenAI的text-embedding-3系列或开源的BGE模型）、向量数据库（Pinecone、Weaviate、Chroma、pgvector等）和检索策略

向量存储常用专用向量数据库如Pinecone、Chroma、Weaviate，支持近似最近邻检索

Milvus采用存算分离架构，支持HNSW、IVF_FLAT、DiskANN等多种向量索引算法