近年来，随着高通骁龙、苹果神经引擎等移动芯片的AI算力提升，以及Llama.cpp、MLC-LLM等推理框架的成熟，7B参数以下的模型已能在旗舰手机上实现可用的生成速度。