待验证50% 置信事实精确时间

SLM的推理成本可比主流大模型低1至2个数量级，且能在本地或边缘设备上运行

1

来源数

50%

置信度

长期有效

时效性

2026/9/16

首次发现

来源

Parsec开源工具：用小模型给AI Agent瘦身上下文

涉及实体

小语言模型concept

相关事实

待验证一个拥有巨大总参数量的稀疏模型，可能在推理成本上远低于一个规模更小的稠密模型70% 相似待验证AI推理服务每次调用消耗真实算力，规模化并不必然带来边际成本显著下降，与传统SaaS边际成本接近于零不同69% 相似待验证简单任务用小模型完成的成本可能只有大模型的十分之一甚至更低69% 相似待验证简单任务使用GPT-3.5级别模型成本约为旗舰模型的1/20，合理的LLM路由可将整体推理成本降低60%-80%68% 相似待验证单价更高的大模型在完整任务上的总成本反而可能更低68% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/924886

API

curl https://kongchang.com/api/v1/knowledge/claims/924886

MCP

get_claim(id=924886)