LoRA在GPT-3 175B上报告：与使用Adam的完整微调相比，可训练参数减少约10,000倍，训练时GPU显存减少约3倍。