Finetune_LLMs

Finetune LLMs 项目介绍

项目概述

Finetune LLMs 项目是一个用于微调大规模语言模型（Large Language Models，简称 LLMs）的代码仓库，特别是使用了一个名人名言数据集进行微调。支持的微调方法包括 DeepSpeed、Lora 和 QLora。

最初，该仓库负责下载并转换 GPTJ 的模型权重，这在尚未加入 Huggingface 的 transformer 包之前是必要的。相关代码仍可以在 original_youtube 分支中找到。

数据集存放在 quotes_dataset 目录中，该数据集已经过格式化，适合用于微调。数据集的制作方法可以在该仓库中查看。

finetuning_repo 目录包含了来源于此处的代码，经过修改后可以支持更多的模型和方法。

专业帮助

如果您需要付费的专业帮助，可以通过电子邮件联系获取支持。

旧版视频教程（不建议常规使用）

原始仓库代码的视频教程可以在这里查看。

关于 Huggingface 模型的更新视频可以在这里观看。

如果需要查看代码，您可以进入 original_youtube 分支，但强烈推荐使用更新的方法。

更新后的 Docker 教程（常规情况下使用）

更新版教程通过 Nvidia-docker 简化了很多流程。

基本要求

1. 需要一块合适的 Nvidia 显卡（通常至少需要 24GB VRAM 支持 fp16）。如果使用云服务，推荐 A100。虽然价格较高，但其速度和 VRAM 可以弥补价值。
2. 使用 Linux 机型，推荐使用 Ubuntu。
3. 有足够现代版本的 docker（如果不确定，请更新到最新版本）。
4. 使用 Nvidia-docker 以允许 GPU 通过 docker 容器。请参阅安装指南。
5. 确保已安装最新的 Nvidia 驱动。可通过此工具了解更多。

Cuda 驱动示例

如果您有一个 64 位的 Linux 系统并需要 A100 驱动，可以运行以下命令来完成设置：

wget https://us.download.nvidia.com/tesla/515.86.01/NVIDIA-Linux-x86_64-515.86.01.run

然后以 sudo 权限运行下载的程序：

chmod 777 NVIDIA-Linux-x86_64-515.86.01.run
sudo ./NVIDIA-Linux-x86_64-515.86.01.run

使用指南

1. 首先，通过运行 build_image.sh 构建 docker 镜像。如果接到关于无法找到 docker 镜像的错误提示，需更新到更新的 Cuda 版本。镜像会周期性地弃用。然后打开一个 PR 以帮助其他人解决此问题。构建 docker 镜像可能需要几分钟时间。
2. 运行 run_image.sh。该脚本会运行刚构建的 docker 镜像，并将当前目录挂载到 docker 容器内的 /workspace 下。系统中的所有 GPU 都会被传递。同时，为了避免每次运行此容器时重复下载模型，您的 .cache 也会被传递。
3. 现在，该镜像可用于使用 GPU 微调模型或实施 DeepSpeed 推理。有关更多信息，请导航到其他目录。