大语言模型推理时，每生成一个token，模型都需要从内存中重新读取全部参数。