待验证50% 置信事实精确时间
SRCoT本地原型运行在配备128GB内存的Apple M4系列笔记本上。
1
来源数
50%
置信度
中期 (~90 天)
时效性
2026/10/19
首次发现
有效期至：2027/1/17
来源
SRCoT：边端LLM的闭环检索反思修正架构
rss2026/10/16
涉及实体
相关事实
待验证在Apple Silicon M4 Pro（12核，ARM NEON）上，Falcon3 1B Instruct达到137.5 t/s提示处理和98.6 t/s生成速度，内存占用1.9 GB。73% 相似已验证Apple M系列芯片的内存带宽可达200-800GB/s（取决于具体型号）72% 相似待验证本地推理受限于用户硬件，一个7B参数量化模型（如Llama 3 8B的Q4版本）文件约4-5GB，在Apple M系列芯片Mac上可达每秒20-40个token，在仅有集成显卡和8GB内存的笔记本上可能降至每秒3-5个token71% 相似已验证30B级别的Dense模型被视为本地部署的甜蜜区间，可在M2 Ultra（192GB）、M4 Pro（48GB）等Apple Silicon设备或配合量化技术的RTX 4090（24GB VRAM）上运行70% 相似
引用此条事实
Stable URI
https://kongchang.com/claim/1069469API
curl https://kongchang.com/api/v1/knowledge/claims/1069469MCP
get_claim(id=1069469)