端侧推理中，经 4 位量化的 7B 级模型在苹果统一内存上通常只需 4–6 GB 内存，推理速度可达每秒数十个 token。