待验证50% 置信事实精确时间

使用BAAI/bge-small-en-v1.5模型生成384维向量，磁盘占用约33MB，纯CPU运行，无需API密钥。

1

来源数

50%

置信度

长期有效

时效性

2026/10/17

首次发现

来源

不用向量数据库：fastembed + numpy 手写余弦相似度

涉及实体

BAAI/bge-small-en-v1.5model

相关事实

待验证运行TinyLlama-1.1B的4-bit量化版本至少需要约600MB内存，超出大多数消费级路由器的硬件上限70% 相似待验证all-MiniLM-L6-v2是384维的开源句向量模型，模型大小约80MB，可在普通CPU上以毫秒级延迟完成单条编码70% 相似待验证Quantprobe 宣称能让仅有 6GB 显存和 16GB 内存的机器以 22 tokens/s 的速度运行 30B 级别的模型68% 相似待验证decode阶段的生成速度近似等于内存带宽÷模型大小，例如在内存带宽273GB/s的M4 Pro上运行4GB的Q4量化7B模型理论最大生成速度约68 tokens/s68% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/1054542

API

curl https://kongchang.com/api/v1/knowledge/claims/1054542

MCP

get_claim(id=1054542)