notus-7b-v1

Notus-7b-v1项目介绍

项目背景

Notus-7b-v1是一个经过精细调整的语言模型系列，它使用了直接偏好优化（DPO）和相关的强化学习与人类反馈（RLHF）技术。这一模型是まず一版本，是在zephyr-7b-sft-full基础上通过DPO技术精细调整而成。Notus-7B-v1与Zephyr-7B-beta的主要区别在于偏好数据集的使用。

数据集与训练过程

在开发Notus-7b-v1时，团队投入了大量时间研究UltraFeedback数据集。使用Argilla工具，开发团队发现原始数据集中存在一些问题，例如较差的响应却获得高评分。经过对数百个数据点的校正，团队二值化了数据集以偏好评级替代最初的整体评分，此举找到了相较于原数据集约50%不同的选择响应。

模型性能与评估

Notus模型的性能通过对话式应用中的不同基准进行评测，比如Chat（MT-Bench、AlpacaEval）和学术（Open LLM Leaderboard）基准以直接与其他7B模型进行对比。在多个评估中Notus表现优异，包括在AlpacaEval中的胜率超过Zephyr-7B-beta和Claude 2。

评测基准结果

• AlpacaEval：Notus的胜率达到91.42%，超过Zephyr-7B-beta和Claude 2。
• 学术评测：在OpenLLM Leaderboard上，Notus在多个任务中表现优于Zephyr 7B dDPO。

使用与授权

Notus-7b-v1主要用于对话助理类应用，开发团队提供了基于该模型的使用示例，其许可证为MIT，使其成为一个开放且可商用的项目。

模型详情

• 开发团队：Argilla团队
• 语言：主要为英语
• 授权：MIT许可证
• 基础模型：alignment-handbook/zephyr-7b-sft-full

项目亮点

Notus的名字来源于古希腊南风之神，与Zephyr（西风之神）形成对应。这象征着Notus模型顺应新风潮，以数据驱动的方式为用户提供更加精准的自然语言处理服务。

未来计划

虽然目前Notus已经显示出强大的能力，但在未来，团队将继续优化数据集，比较分析使用评观点数和偏好评级的效果，并期待通过持续的改进给予用户臂更佳的体验。

重要提示：在优化过程中发现TruthfulQA数据集的提示可能影响真实性评估结果，未来版本将调整训练数据以提升模型的精确度。