Concept小语言模型 / Small Language Model
SLM
参数量通常在数十亿以内、面向端侧设备本地部署的小型语言模型,追求在手机、笔记本等消费级设备上高效运行,是LLM领域轻量化方向的代表
Core Facts
Timeline (last 90 days)
Oct 2
一篇发表于arXiv的研究构建了围绕Agent微任务的基准测试,检验现成小语言模型(SLM)在这些微任务上是否够用
Unverified50%
Oct 2
研究给出的架构建议是将SLM放在能达到置信区间支撑阈值的基线之后,只在基线无法达标的地方才动用SLM
Unverified50%
Sep 30
强迫小语言模型用概率方式逼近确定性问题会牺牲准确性和能耗,边缘小模型的大部分不可靠性是可避免的
Unverified50%
Sep 30
在该学习框架中,SLM充当成员资格预言机,带标签的数据充当等价性预言机
Unverified50%
Sep 30
神经符号路由器将结构化任务(算术、代数、形式逻辑)分发给确定性引擎,将开放式应用题保留给小语言模型
Unverified50%
Sep 12
许多SLM(空间语言模型)数据集在标准雷达指标上表现优异,但进入真实倾斜场景后成绩大幅下滑
Unverified50%
Sep 11
小语言模型(SLM)参数量通常在几十亿以内,追求在手机、笔记本等设备上本地运行
Unverified50%
All Facts (8)
Verified
小语言模型(SLM)通常指参数量在1B-7B之间的模型
90%Unverified研究给出的架构建议是将SLM放在能达到置信区间支撑阈值的基线之后,只在基线无法达标的地方才动用SLM
50%Unverified一篇发表于arXiv的研究构建了围绕Agent微任务的基准测试,检验现成小语言模型(SLM)在这些微任务上是否够用
50%Unverified神经符号路由器将结构化任务(算术、代数、形式逻辑)分发给确定性引擎,将开放式应用题保留给小语言模型
50%Unverified在该学习框架中,SLM充当成员资格预言机,带标签的数据充当等价性预言机
50%Unverified强迫小语言模型用概率方式逼近确定性问题会牺牲准确性和能耗,边缘小模型的大部分不可靠性是可避免的
50%Unverified许多SLM(空间语言模型)数据集在标准雷达指标上表现优异,但进入真实倾斜场景后成绩大幅下滑
50%Unverified小语言模型(SLM)参数量通常在几十亿以内,追求在手机、笔记本等设备上本地运行
50%