DAMP

一种线性注意力模型循环状态的量化方案，在每个生成token后立即对状态进行舍入，支持八比特精度，但四比特精度下存在累积误差问题。