数学推理效率提升

该项目提出了一种通过混合潜在Token（由VQ-VAE生成）和文本Token来优化语言模型推理过程的方法。传统链式思维（CoT）数据因冗长的文本Token导致计算资源消耗大，而该方法通过抽象初始推理步骤为潜在Token，显著缩短推理痕迹长度（平均减少17%），同时在数学和逻辑推理任务中性能优于基线模型（如Math、GSM8K等数据集）。支持从头训练模型或微调现有LLMs，适用于数学推理、迷宫问题求解等场景。

RSD是一种创新框架，通过结合轻量级草稿模型、强大目标模型和过程奖励模型，动态优化大型语言模型(LLMs)在推理任务中的计算成本与输出质量平衡。该框架在处理复杂推理任务时效率可达目标模型的4.4倍，准确率平均比并行解码方法高3.5%，特别适合资源受限环境。项目基于Qwen2.5-Math和Skywork-o1-PRM等开源模型构建，支持在线(需3个GPU)和离线(需1个GPU)两种运行模式。