待验证50% 置信事实精确时间

微型CNN可能仅有数千到数万参数,单次推理计算量在1-10 MFLOPs级别,推理耗时在毫秒甚至亚毫秒级

1

来源数

50%

置信度

长期有效

时效性

2026/9/7

首次发现

来源

手写微型CNN比推理引擎快3倍：树莓派端侧优化实战解析

涉及实体

相关事实

待验证参数量在1亿以下的轻量模型经领域数据微调后可达95%以上意图分类准确率，单次推理延迟控制在5-20ms以内75% 相似待验证1000亿参数的模型处理单次推理请求需约80GB显存，百亿参数级别模型仅需约20GB74% 相似待验证M2.5采用混合专家架构（Mixture of Experts，MoE），每次推理只有10B参数真正参与计算，总参数量可能远超10B68% 相似待验证针对有限意图集合训练的轻量级专用模型参数量通常在10M以下，其推理延迟可比通用LLM调用低2-3个数量级68% 相似待验证研究团队在十亿参数规模的稀疏LLM上测得推理和训练速度提升超过20%68% 相似

引用此条事实

Stable URI

https://kongchang.com/claim/874370

API

curl https://kongchang.com/api/v1/knowledge/claims/874370

MCP

get_claim(id=874370)