概念
模型版本一致性
指在向量数据库或嵌入检索系统中,确保索引内所有嵌入向量由同一模型版本(含分词器、权重、归一化步骤)生成的约束原则。不同模型版本产生的嵌入虽维度相同但几何空间不同,混合使用会导致余弦相似度失去意义,引发检索质量无声退化。
时间轴 (近 90 天)
10月15日
混合推理模式的关键设计点有三个:一是路由策略(基于输入长度、任务类型和网络状态判断请求走端侧还是云端);二是降级方案(网络不可用或云端超时时端侧模型给出可接受的次优结果而非直接报错);三是一致性(端侧与云端模型版本需要协同更新)。
待验证50%