[
控场AI
]
知识动态
实体
播客
深度
开发者
关于
Get CLI
EN
模型
SHADOW-50M / SHADOW
SHADOW-50M
由Reddit开发者QLNI从零训练的超小型语言模型,实际44M参数,采用三元权重和冻结指纹词表设计,模型文件仅19.8MB,在CPU上可达约1900 tok/s推理速度,专为极致压缩和本地运行优化
来源文章
19.8MB的LLM:44M参数模型如何在CPU上跑出1900 tok/s
9月15日