待验证50% 置信事实精确时间

all-MiniLM-L6-v2是384维的开源句向量模型，模型大小约80MB，可在普通CPU上以毫秒级延迟完成单条编码

1

来源数

50%

置信度

长期有效

时效性

2026/10/2

首次发现

来源

40万工单的AI质检系统：一个实习生的架构抉择

涉及实体

all-MiniLM-L6-v2model

相关事实

待验证decode阶段的生成速度近似等于内存带宽÷模型大小，例如在内存带宽273GB/s的M4 Pro上运行4GB的Q4量化7B模型理论最大生成速度约68 tokens/s72% 相似待验证现代处理器L1缓存大小通常为32-64KB，延迟约4个时钟周期72% 相似待验证all-MiniLM-L6-v2 将文本压缩成 384 维稠密向量，模型体积约 80MB，底层基于 BERT 精简变体 MiniLM 通过知识蒸馏训练71% 相似部分验证对于7B参数模型的4-bit量化版本，通常需要至少8GB内存和现代多核CPU即可流畅运行，推理速度约为每秒10-30个token70% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/967188

API

curl https://kongchang.com/api/v1/knowledge/claims/967188

MCP

get_claim(id=967188)