待验证50% 置信基准精确时间
在 48 GB 内存的 MacBook Pro M5 Pro 上、32K 上下文窗口下,Markdown(限制器)模式每道搜索题的平均耗时:Qwen 3.8 27B 约 42 秒,Meta Muse Glimmer 30B 约 62 秒,Prism Bonsai 27B 约 24 秒,Gemma 4 12B QAT 约 16 秒(切到 Markdown Raw 后约 43 秒)。
1
来源数
50%
置信度
短期 (~14 天)
时效性
2026/10/20
首次发现
有效期至:2026/11/3
来源
本地LLM如何装下更多网页搜索数据:Markdown输出实测
rss2026/10/20
涉及实体
相关事实
待验证在M1 Max上跑27B模型处理3.2万token提示词需等待超过500秒才输出首字,而M5 Max不到一分钟(优化软件下约40秒)78% 相似待验证在700亿参数模型的首token时间测试中,M3 Ultra耗时31.6秒,M5 Ultra仅7.7秒,达到约4.1倍,接近苹果宣称的4.3倍73% 相似待验证冷启动27k-token全新会话,原版llama.cpp需要245秒,作者的fork在Mac单独运行时228秒,接入手机后缩短到168秒73% 相似待验证使用40亿参数蒸馏模型绘图时,Mac mini约每12秒生成一张(每分钟约5张),Mac Studio约每2秒一张(每分钟约29张)73% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1074216API
curl https://kongchang.com/api/v1/knowledge/claims/1074216MCP
get_claim(id=1074216)