懂AI

ArmoRM AI工具集合｜实用软件、网站、APP与开源项目

相关项目相关文章
RLHF-Reward-Modeling 学习资料汇总 - 训练RLHF奖励模型的开源工具包

RLHF-Reward-Modeling 学习资料汇总 - 训练RLHF奖励模型的开源工具包

RLHF-Reward-Modeling是一个用于训练强化学习中人类反馈(RLHF)奖励模型的开源项目。该项目提供了多种奖励模型的实现和训练方法,包括ArmoRM、配对偏好模型和Bradley-Terry模型等。通过使用这些模型和方法,可以更好地捕捉人类偏好,从而改进RLHF的效果。

RLHFArmoRMRewardBenchBradley-Terry Reward Modelpair-preference modelGithub开源项目
SimPO:一种简单而高效的无参考奖励偏好优化方法

SimPO:一种简单而高效的无参考奖励偏好优化方法

SimPO是一种新的偏好优化算法,相比DPO等现有方法更简单高效。它无需参考模型,使用序列的平均对数概率作为隐式奖励,在各种基准测试上都取得了优异的表现。

SimPODPOGemmaUltraFeedbackArmoRMGithub开源项目
RLHF:人类反馈强化学习的原理与应用

RLHF:人类反馈强化学习的原理与应用

RLHF(Reinforcement Learning from Human Feedback)是一种将人类反馈融入强化学习过程的技术,通过奖励模型来优化语言模型的输出,使其更符合人类偏好。本文详细介绍了RLHF的工作原理、训练流程、应用场景以及最新进展。

RLHFArmoRMRewardBenchBradley-Terry Reward Modelpair-preference modelGithub开源项目