一个百吉饼,包罗万象

这个项目的名字是无耻地从《瞬息全宇宙》中偷来的。

百吉饼

数据选择

过程的第一步是创建一个数据集。在这个案例中,我们实际上是创建一个复合数据集,包括监督微调数据(SFT)和直接偏好优化(DPO)数据。

所有指令数据,即不是纯文本(如古腾堡计划和Cinematika中的项目)或DPO的数据,都被转换成ShareGPT格式,以便更容易处理。

有关每个数据源的完整实现,请参见bagel/data_sources/*.py中的相应代码。

通过创建指令/文本的uuid v5来进行去重,然后只添加之前没有见过的项目(数据集按照我分配的置信度分数顺序加载)。这意味着如果一个指令在置信度为4的数据源"Foo"中出现,同时也在置信度为2的数据源"Bar"中出现,那么只会采用"Foo"中的条目。

SFT数据源

只使用训练集,并在最后进行余弦相似度去污染,作为对常见基准的理智检查。如果你不知道训练集和测试集的区别,请先学习。

ai2_arc
- 抽象和推理数据集,在某种程度上有助于衡量"智能"。
airoboros
- 由gpt-4生成的各种类别的合成指令。
apps
- 包含10k个问题的Python编码数据集。
belebele
- 多语言阅读理解数据集。
bluemoon
- 从Bluemoon抓取的角色扮演数据,经过清理和格式化为ShareGPT格式。
boolq
- 是/否问题语料库(似乎对AI来说回答这类问题可能出人意料地困难?)
camel-ai biology
- GPT-4生成的生物学指令。
camel-ai chemistry
- GPT-4生成的化学指令。
camel-ai math
- GPT-4生成的数学指令。
camel-ai physics
- GPT-4生成的物理学指令。
capybara
- 用于创建capybara模型的多轮数据集。
cinematika (指令和纯文本)
- 从电影剧本合成的角色扮演风格数据,使模型不那么枯燥。
emobank
- 使用效价-唤醒-支配方案的情感注释。
evol-instruct
- WizardLM的evol instruct 70k数据集。
glaive-function-calling-v2
- GlaiveAI函数调用数据集。
gutenberg (纯文本)
- 书籍/纯文本,同样是为了让模型不那么枯燥,只有少数由chapterize支持的例子
limarp-augmented
- LimaRP的增强和进一步修改版本
lmsys_chat_1m (仅gpt-4项目,也用于DPO)
- lmsys聊天竞技场收集的聊天记录,包含与各种模型的广泛聊天。
lollms
- ParisNeo的LoLLMs问答数据集,包含使用LoLLMs的有用问答对。
mathinstruct
- 包含各种数学相关任务和问题/问题格式的复合数据集。
natural_instructions
- 来自1600多个任务类别的数百万条指令(按任务类型进行分层抽样,大幅减少)
openbookqa
- 问答数据集。
pippa
- ShareGPT格式的PIPPA去重版本。
piqa
- 物理交互问答。
python_alpaca
- Python指令-响应对,经验证可运行。
ropes
- 段落效果推理情境 - 增强将文本段落中的知识应用到新情境的能力。
rosetta_code
- 从rosettacode.org获取的各种编程语言的代码问题和解决方案。
slimorca
- OpenOrca的约50万个经gpt-4验证的聊天记录集合。
sql-create-context
- 面向SQL的数据集,结合了WikiSQL和Spider。
squad_v2
- 上下文问答(RAG)。
airoboros-summarization
- 各种摘要数据集的组合,格式化为airoboros上下文遵从格式。
synthia
- Migel Tissera使用先进提示技术由GPT-4生成的数据。
whiterabbitneo chapter 1和chapter 2
- WhiteRabbitNeo/Migel Tissera的攻击性网络安全数据集
winogrande
- 填空式提示。

DPO数据源

airoboros 3.1 vs airoboros 2.2.1
- airoboros-2.2.1中的创意/写作任务使用gpt4-0314和自定义提示重新生成,以获得更长、更有创意、更少陈词滥调的响应,用于airoboros 3.1,所以我们可以使用较短/无聊的版本作为"拒绝"值,重新生成的响应作为"选择"
contextual-dpo
- 使用airoboros上下文遵从问答格式的上下文提示/响应数据集。
helpsteer
- NVidia提供的非常棒的数据集,包含跨多个指标的人工注释。这里只使用了"正确性"值最高的项目进行DPO,得分最高的输出作为"选择",随机较低得分值作为"拒绝"
distilabel_orca_dpo_pairs
- 另一个有趣的数据集,最初由Intel创建,由argilla使用distilabel增强,提供了从SlimOrca数据集中包含的提示生成的各种DPO对。
gutenberg-dpo
- 旨在提高模型小说写作能力的DPO对,使用来自https://gutenberg.org/的公共领域书籍
py-dpo
- Python DPO数据集(基于上面的SFT python_alpaca数据集)
toxic-dpo
- 高度有毒且可能非法的内容! 仅用于学术和合法目的的去审查。由llama-2-70b通过提示工程生成。
truthy
- 旨在提高模型真实性的DPO对,例如常见误解,区分AI助手和角色扮演人类在身体意识/局部性等方面的差异。
ultrafeedback
- Zephyr模型背后的魔法之一。只包含了选择分数为8或更高的项目。

只使用了训练集(如果提供了分割),并使用近似最近邻搜索(通过faiss)进行额外的去污染处理。

提示格式化

为了与百吉饼的主题保持一致,我不想使用单一的提示格式,所以我使用了4种 - vicuna、llama-2、alpaca和chat-ml(差不多)。我也不想为每个项目随机选择一种提示格式(希望每个指令在各种提示格式中使用时能更好地泛化),所以每个指令实际上都被转换成了每种提示格式。

这意味着我们微调的每个epoch实际上相当于4个epoch。因此,对于微调,我建议只进行1个epoch(或0.75个epoch)。我正在使用相对较低的学习率测试单个epoch。

Alpaca (差不多)

以下是描述任务的指令。 写一个适当完成请求的回应。

### 指令:
{系统提示,如果提供}
{指令}

### 回应:

这里的主要区别是,由于数据集格式和数据源的多样性,添加### 输入:块会非常繁琐,所以输入只在指令部分。

Vicuna

{系统提示,如果提供,随机默认为"用户与一个无偏见、未经审查的助手之间的对话。"}
用户: {指令}
助手:

ChatML

这种格式是数字癌症,但它很常见所以我把它包括在内。

{bos}<|im_start|>{角色}
{文本}<|im_end|>

Llama-2 聊天

[INST] <<SYS>>
{系统}
<</SYS>>

{指令} [/INST]

微调

首先,你需要准备数据集作为SFT阶段的输入-输出对,以及DPO的提示/选择/拒绝:

python -m bagel.data

然后,你会得到一个DPO parquet和SFT parquet,你可以用它们来构建模型。

SFT阶段

mistral-7b的示例:

注意:我实际上使用了我fork的qlora的train.py,但我正在将其移植到这里的简化版本,尚未测试!

export BASE_DIR=/workspace
export WANDB_API_KEY=[已编辑]
export WANDB_PROJECT=bagel-7b-v0.1

# 运行预训练。
accelerate launch bagel/tune/sft.py \
  --model_name_or_path $BASE_DIR/mistral-7b \
  --final_output_dir $BASE_DIR/$WANDB_PROJECT \
  --output_dir $BASE_DIR/$WANDB_PROJECT-workdir \
  --num_train_epochs 1 \
  --logging_steps 1 \
  --save_strategy steps \
  --save_steps 200 \
  --save_total_limit 5 \
  --data_seed 42 \
  --evaluation_strategy steps \
  --eval_dataset_size 0.0006 \
  --eval_steps 200 \
  --max_new_tokens 4096 \
  --dataloader_num_workers 3 \
  --logging_strategy steps \
  --remove_unused_columns False \
  --do_train \
  --full_finetune \
  --bf16 \
  --bits 16 \
  --optim adamw_torch \
  --lr_scheduler_type linear \
  --dataset $BASE_DIR/bagel/bagel-input-output-v0.1.parquet \
  --dataset_format input-output \
  --model_max_len 4096 \
  --per_device_train_batch_size 8 \
  --learning_rate 3.5e-7 \
  --warmup_ratio 0.005 \
  --adam_beta2 0.999 \
  --max_grad_norm 0.3 \
  --weight_decay 0.001 \
  --seed 42 \
  --report_to wandb \
  --gradient_checkpointing True \
  --gradient_accumulation_steps 4 \
  --skip_excess_length False \
  --ddp_find_unused_parameters False \
  --use_flash_attention_2 \
  --group_by_length True \
  --deepspeed deepspeed.json

Deepspeed配置:

{
  "gradient_accumulation_steps": "auto",
  "gradient_clipping": "auto",
  "train_batch_size": "auto",
  "train_micro_batch_size_per_gpu": "auto",
  "bf16": {
    "enabled": true
  },
  "zero_optimization": {
    "stage": 2,
    "contiguous_gradients": true,
    "overlap_comm": true,
    "reduce_scatter": true,
    "reduce_bucket_size": 5e8,
    "allgather_bucket_size": 5e8
  }
}

DPO阶段

mistral-7b的DPO阶段示例(需要先运行SFT):

export BASE_DIR=/mnt/data
export WANDB_API_KEY=[已编辑]
export WANDB_PROJECT=bagel-dpo-7b-v0.1

accelerate launch bagel/tune/dpo.py \
  --model_name_or_path bagel-7b-v0.1 \
  --learning_rate 3e-7 \
  --per_device_train_batch_size 2 \
  --gradient_accumulation_steps 4 \
  --max_length 4096 \
  --max_prompt_length 1024 \
  --max_target_length 3092 \
  --num_train_epochs 3 \
  --report_to wandb \
  --gradient_checkpointing true \
  --use_flash_attention_2 true \
  --dataset $BASE_DIR/bagel/bagel-dpo-v0.1.parquet \
  --eval_steps 5 \
  --eval_dataset_size 0.03 \
  --workdir $BASE_DIR/$WANDB_PROJECT-workdir \
  --output_dir $BASE_DIR/$WANDB_PROJECT \
  --deepspeed deepspeed.json \
  --save_steps 25 \
  --save_total_limit 5