待验证50% 置信事实精确时间

微型LLM指参数规模、内存占用与推理成本都被大幅压缩的语言模型

1

来源数

50%

置信度

长期有效

时效性

2026/9/17

首次发现

来源

PrismML押注微型大模型：小体积能否改写AI使用方式

涉及实体

tiny LLMconcept

相关事实

待验证大语言模型的参数量从数十亿到数千亿不等，本质上是对训练数据中统计规律的压缩存储74% 相似已验证大语言模型的上下文窗口决定了模型在单次推理中能处理的信息量上限73% 相似已验证大语言模型的计算成本主要取决于token数量、模型参数规模和上下文窗口大小73% 相似待验证业界降低LLM推理成本的主要优化路径包括模型量化、推测解码（Speculative Decoding）和语义缓存机制72% 相似待验证LLM 推理在 decode 阶段通常是内存带宽受限而非计算受限，因为逐 token 生成需加载整个模型权重但算术强度极低72% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/930479

API

curl https://kongchang.com/api/v1/knowledge/claims/930479

MCP

get_claim(id=930479)