强化学习从人类反馈

RAG-Reward项目是一个研究项目，旨在通过奖励驱动的监督增强检索增强生成（RAG）模型的性能。该项目包括RAG-Reward数据集和RAG特定的奖励模型，用于生成合成数据集以微调RAG编码器，使其输出更符合人类偏好。研究表明，该方法在多个领域表现出显著性能提升，特别是在相关性和生成响应质量方面。项目通过强化学习从人类反馈（RLHF）优化RAG系统，展示了定制评估系统的重要性。

Reward Feature Models (RFM) 是一种在强化学习从人类反馈 (RLHF) 中捕捉个体偏好的方法，特别适用于大型语言模型 (LLMs) 的训练。它通过学习跨用户共享的通用奖励特征和用户特定的权重来实现个性化。训练过程分为两个阶段：训练阶段学习共享特征和初始用户权重，适应阶段使用有限反馈快速调整新用户权重。研究表明，RFM 在用户内泛化性能上与 Variational Preference Learning (VPL) 相当，同时在用户间泛化能力上表现更优。