RCSD
一种用于投机解码的草稿模型训练框架，利用隐式偏好对和掩码损失直接优化接受长度，提升推理加速效果。
时间轴 (近 90 天)
RCSD（Reinforcement and Continual Learning for Domain-Specific Speculative Decoding）是一个将草稿模型优化与系统级目标（最大化接受长度）直接对齐的训练框架。
RCSD利用投机推理过程中自然产生的接受和拒绝序列构造隐式偏好对，作为强化学习中的偏好信号来优化草稿模型。
RCSD引入掩码损失，避免对与目标模型对齐的token施加惩罚，从而在提升接受率的同时不牺牲输出准确性。
与HASS方法相比，RCSD将平均接受长度提升了35%。
RCSD在实际工作负载下实现了1.35倍的端到端推理加速，且生成质量没有下降。
RCSD不需要修改目标模型或推理架构，属于纯训练侧的优化，落地成本较低。
RCSD的训练框架具有持续学习特性，能够适应特定领域的数据分布。
RCSD目前仍属于学术研究阶段，其代码和模型尚未公开。
全部知识事实 (8)
RCSD（Reinforcement and Continual Learning for Domain-Specific Speculative Decoding）是一个将草稿模型优化与系统级目标（最大化接受长度）直接对齐的训练框架。
50%待验证RCSD利用投机推理过程中自然产生的接受和拒绝序列构造隐式偏好对，作为强化学习中的偏好信号来优化草稿模型。
50%待验证RCSD引入掩码损失，避免对与目标模型对齐的token施加惩罚，从而在提升接受率的同时不牺牲输出准确性。
50%待验证与HASS方法相比，RCSD将平均接受长度提升了35%。
50%待验证RCSD在实际工作负载下实现了1.35倍的端到端推理加速，且生成质量没有下降。
50%待验证RCSD不需要修改目标模型或推理架构，属于纯训练侧的优化，落地成本较低。
50%待验证RCSD的训练框架具有持续学习特性，能够适应特定领域的数据分布。
50%待验证RCSD目前仍属于学术研究阶段，其代码和模型尚未公开。
50%