待验证50% 置信事实精确时间

all-MiniLM-L6-v2 将文本压缩成 384 维稠密向量，模型体积约 80MB，底层基于 BERT 精简变体 MiniLM 通过知识蒸馏训练

1

来源数

50%

置信度

长期有效

时效性

2026/7/14

首次发现

来源

大学生用Ollama自建跨模型持久记忆系统：解耦设计+AES256加密

相关事实

待验证千问3.5-9B包含约90亿个可训练参数，经4-bit量化后模型文件大小可压缩至约5-6GB73% 相似待验证Unsloth 通过 4-bit/8-bit 量化感知训练与动态激活卸载技术，可将 7B 模型的微调显存需求压缩至约 4–6 GB68% 相似已验证4-bit量化将每个参数压缩至0.5字节，理论上将140GB压缩至约35-40GB68% 相似待验证DeepSeek 8B模型通过4-bit量化将模型文件压缩至约4.7GB66% 相似待验证GPTQ、AWQ等后训练量化算法可将模型压缩至4位INT4，使70B参数模型可在消费级显卡运行，计算量降低75%以上66% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/503464

API

curl https://kongchang.com/api/v1/knowledge/claims/503464

MCP

get_claim(id=503464)