概念小语言模型 / Small Language Model
SLM
参数量通常在数十亿以内、面向端侧设备本地部署的小型语言模型,追求在手机、笔记本等消费级设备上高效运行,是LLM领域轻量化方向的代表
核心事实
时间轴 (近 90 天)
10月2日
一篇发表于arXiv的研究构建了围绕Agent微任务的基准测试,检验现成小语言模型(SLM)在这些微任务上是否够用
待验证50%
10月2日
研究给出的架构建议是将SLM放在能达到置信区间支撑阈值的基线之后,只在基线无法达标的地方才动用SLM
待验证50%
9月30日
强迫小语言模型用概率方式逼近确定性问题会牺牲准确性和能耗,边缘小模型的大部分不可靠性是可避免的
待验证50%
9月30日
在该学习框架中,SLM充当成员资格预言机,带标签的数据充当等价性预言机
待验证50%
9月30日
神经符号路由器将结构化任务(算术、代数、形式逻辑)分发给确定性引擎,将开放式应用题保留给小语言模型
待验证50%
9月12日
许多SLM(空间语言模型)数据集在标准雷达指标上表现优异,但进入真实倾斜场景后成绩大幅下滑
待验证50%
9月11日
小语言模型(SLM)参数量通常在几十亿以内,追求在手机、笔记本等设备上本地运行
待验证50%
全部知识事实 (8)
已验证
小语言模型(SLM)通常指参数量在1B-7B之间的模型
90%待验证研究给出的架构建议是将SLM放在能达到置信区间支撑阈值的基线之后,只在基线无法达标的地方才动用SLM
50%待验证一篇发表于arXiv的研究构建了围绕Agent微任务的基准测试,检验现成小语言模型(SLM)在这些微任务上是否够用
50%待验证神经符号路由器将结构化任务(算术、代数、形式逻辑)分发给确定性引擎,将开放式应用题保留给小语言模型
50%待验证在该学习框架中,SLM充当成员资格预言机,带标签的数据充当等价性预言机
50%待验证强迫小语言模型用概率方式逼近确定性问题会牺牲准确性和能耗,边缘小模型的大部分不可靠性是可避免的
50%待验证许多SLM(空间语言模型)数据集在标准雷达指标上表现优异,但进入真实倾斜场景后成绩大幅下滑
50%待验证小语言模型(SLM)参数量通常在几十亿以内,追求在手机、笔记本等设备上本地运行
50%