待验证50% 置信事实精确时间

这类微型LLM参数规模通常在1B至7B之间，可在手机或可穿戴芯片上完成每秒数十个token的本地推理

1

来源数

50%

置信度

中期 (~90 天)

时效性

2026/9/24

首次发现

有效期至：2026/12/23

来源

PrismML把微型LLM带进高通智能眼镜：端侧AI的新样本

涉及实体

tiny LLMtechnology

相关事实

已验证微调一个7B参数的模型可能需要数十GB显存进行全参数微调74% 相似待验证在手机上运行一个3B参数的LLM仍面临约6GB内存占用和数百毫秒的首token延迟71% 相似待验证7B参数的量化模型在16GB内存的普通电脑上即可流畅对话69% 相似待验证小语言模型（SLM）参数量通常在几十亿以内，追求在手机、笔记本等设备上本地运行68% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/948153

API

curl https://kongchang.com/api/v1/knowledge/claims/948153

MCP

get_claim(id=948153)