[
控场AI
]
知识动态
实体
播客
深度
开发者
关于
Get CLI
EN
概念
PTQ / Post-training Quantization
训练后量化(PTQ)
训练后量化是一种在模型训练完成后直接对权重和激活进行映射的量化方法,只需小校准集或无需数据,工程成本低。
来源文章
用小编码器替代LLM路由:用共形预测提升可靠性
10月14日
VLCQ:变长编码如何突破INT8量化瓶颈
10月14日