待验证50% 置信基准精确时间
模型 gemma4:e2b-it-qat 通过 Ollama 在纯CPU的 i5-1135G7 笔记本上本地运行，下载体积4.3GB，冷启动约14秒，热启动3.6到4.0秒，约15到20 tokens/秒
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/12
首次发现
有效期至：2027/1/10
来源
涉及实体
相关事实
待验证llama.cpp的GGUF格式4-bit量化版本使Llama 3.1 70B模型可在配备64GB统一内存的Apple M2 Ultra上运行，推理速度约20-30 tokens/秒70% 相似待验证在M4 Pro芯片、24GB统一内存的MacBook Pro上通过llama.cpp运行，文本解码速度为10.13 tokens/秒，完整任务每个耗时4到7分钟67% 相似已验证现代CPU的L1缓存访问延迟约为0.5纳秒，L2约为4纳秒，一次主内存访问需要60-100纳秒66% 相似待验证测试硬件为8GB内存、带主动散热器和双固态硬盘的树莓派5，所有模型通过llama.cpp运行并用llama-bench测量速度65% 相似待验证Apple M2/M3 芯片采用统一内存架构（UMA），llama.cpp 通过 Metal API 可达到约 30-50 tokens/秒的 7B 模型推理速度64% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1002933API
curl https://kongchang.com/api/v1/knowledge/claims/1002933MCP
get_claim(id=1002933)