Concept微型大语言模型 / 微型LLM / 小型语言模型
Tiny LLM
参数量极小(数亿至数十亿级别)的语言模型,通过量化、剪枝、蒸馏等压缩技术实现,可在端侧设备或浏览器中本地运行,侧重隐私保护、低延迟和低成本场景
Timeline (last 90 days)
Sep 28
微型模型更适合处理简单的文本补全、格式转换、轻量对话等任务,而非复杂的多步推理或专业知识问答
Unverified50%
参数量极小(数亿至数十亿级别)的语言模型,通过量化、剪枝、蒸馏等压缩技术实现,可在端侧设备或浏览器中本地运行,侧重隐私保护、低延迟和低成本场景
微型模型更适合处理简单的文本补全、格式转换、轻量对话等任务,而非复杂的多步推理或专业知识问答