共 1 篇相关文章
Llmspeed 是 Hacker News 上发布的开源测速项目,帮助开发者在购买硬件前预估本地大语言模型的推理速度。本文解析本地 LLM 跑速的关键影响因素、用测速数据做选型决策的方法,以及社区众包测速库的价值与局限。