过去两年，模型量化、剪枝、知识蒸馏等技术让千亿参数模型可以在单张消费级显卡甚至手机上运行。