bagel

bagel

综合数据源与多样化技术的大语言模型训练框架

Bagel是一个综合性大语言模型训练框架,融合多种数据源和先进技术。该项目利用多样化数据集进行监督微调(SFT)和直接偏好优化(DPO),包括指令、对话和纯文本数据。Bagel采用vicuna、llama-2、alpaca和chat-ml等多种提示格式,旨在提升模型泛化能力。通过SFT和DPO两阶段训练,Bagel致力于打造功能完善、性能优异的语言模型。

Bagel数据集微调关键词选择DPOGithub开源项目

一个百吉饼,包罗万象

这个项目的名字是无耻地从《瞬息全宇宙》中偷来的。

百吉饼

数据选择

过程的第一步是创建一个数据集。 在这个案例中,我们实际上是创建一个复合数据集,包括监督微调数据(SFT)和直接偏好优化(DPO)数据。

所有指令数据,即不是纯文本(如古腾堡计划和Cinematika中的项目)或DPO的数据,都被转换成ShareGPT格式,以便更容易处理。

有关每个数据源的完整实现,请参见bagel/data_sources/*.py中的相应代码。

通过创建指令/文本的uuid v5来进行去重,然后只添加之前没有见过的项目(数据集按照我分配的置信度分数顺序加载)。 这意味着如果一个指令在置信度为4的数据源"Foo"中出现,同时也在置信度为2的数据源"Bar"中出现,那么只会采用"Foo"中的条目。

SFT数据源

只使用训练集,并在最后进行余弦相似度去污染,作为对常见基准的理智检查。如果你不知道训练集和测试集的区别,请先学习。

  • ai2_arc
    • 抽象和推理数据集,在某种程度上有助于衡量"智能"。
  • airoboros
    • 由gpt-4生成的各种类别的合成指令。
  • apps
    • 包含10k个问题的Python编码数据集。
  • belebele
    • 多语言阅读理解数据集。
  • bluemoon
    • 从Bluemoon抓取的角色扮演数据,经过清理和格式化为ShareGPT格式。
  • boolq
    • 是/否问题语料库(似乎对AI来说回答这类问题可能出人意料地困难?)
  • camel-ai biology
    • GPT-4生成的生物学指令。
  • camel-ai chemistry
    • GPT-4生成的化学指令。
  • camel-ai math
    • GPT-4生成的数学指令。
  • camel-ai physics
    • GPT-4生成的物理学指令。
  • capybara
    • 用于创建capybara模型的多轮数据集。
  • cinematika (指令和纯文本)
    • 从电影剧本合成的角色扮演风格数据,使模型不那么枯燥。
  • emobank
    • 使用效价-唤醒-支配方案的情感注释。
  • evol-instruct
    • WizardLM的evol instruct 70k数据集。
  • glaive-function-calling-v2
    • GlaiveAI函数调用数据集。
  • gutenberg (纯文本)
    • 书籍/纯文本,同样是为了让模型不那么枯燥,只有少数由chapterize支持的例子
  • limarp-augmented
    • LimaRP的增强和进一步修改版本
  • lmsys_chat_1m (仅gpt-4项目,也用于DPO)
    • lmsys聊天竞技场收集的聊天记录,包含与各种模型的广泛聊天。
  • lollms
    • ParisNeo的LoLLMs问答数据集,包含使用LoLLMs的有用问答对。
  • mathinstruct
    • 包含各种数学相关任务和问题/问题格式的复合数据集。
  • natural_instructions
    • 来自1600多个任务类别的数百万条指令(按任务类型进行分层抽样,大幅减少)
  • openbookqa
    • 问答数据集。
  • pippa
    • ShareGPT格式的PIPPA去重版本。
  • piqa
    • 物理交互问答。
  • python_alpaca
    • Python指令-响应对,经验证可运行。
  • ropes
    • 段落效果推理情境 - 增强将文本段落中的知识应用到新情境的能力。
  • rosetta_code
    • 从rosettacode.org获取的各种编程语言的代码问题和解决方案。
  • slimorca
    • OpenOrca的约50万个经gpt-4验证的聊天记录集合。
  • sql-create-context
    • 面向SQL的数据集,结合了WikiSQL和Spider。
  • squad_v2
    • 上下文问答(RAG)。
  • airoboros-summarization
    • 各种摘要数据集的组合,格式化为airoboros上下文遵从格式。
  • synthia
    • Migel Tissera使用先进提示技术由GPT-4生成的数据。
  • whiterabbitneo chapter 1chapter 2
    • WhiteRabbitNeo/Migel Tissera的攻击性网络安全数据集
  • winogrande
    • 填空式提示。

DPO数据源

  • airoboros 3.1 vs airoboros 2.2.1
    • airoboros-2.2.1中的创意/写作任务使用gpt4-0314和自定义提示重新生成,以获得更长、更有创意、更少陈词滥调的响应,用于airoboros 3.1,所以我们可以使用较短/无聊的版本作为"拒绝"值,重新生成的响应作为"选择"
  • contextual-dpo
    • 使用airoboros上下文遵从问答格式的上下文提示/响应数据集。
  • helpsteer
    • NVidia提供的非常棒的数据集,包含跨多个指标的人工注释。这里只使用了"正确性"值最高的项目进行DPO,得分最高的输出作为"选择",随机较低得分值作为"拒绝"
  • distilabel_orca_dpo_pairs
    • 另一个有趣的数据集,最初由Intel创建,由argilla使用distilabel增强,提供了从SlimOrca数据集中包含的提示生成的各种DPO对。
  • gutenberg-dpo
  • py-dpo
    • Python DPO数据集(基于上面的SFT python_alpaca数据集)
  • toxic-dpo
    • 高度有毒且可能非法的内容! 仅用于学术和合法目的的去审查。由llama-2-70b通过提示工程生成。
  • truthy
    • 旨在提高模型真实性的DPO对,例如常见误解,区分AI助手和角色扮演人类在身体意识/局部性等方面的差异。
  • ultrafeedback
    • Zephyr模型背后的魔法之一。只包含了选择分数为8或更高的项目。

只使用了训练集(如果提供了分割),并使用近似最近邻搜索(通过faiss)进行额外的去污染处理。

提示格式化

为了与百吉饼的主题保持一致,我不想使用单一的提示格式,所以我使用了4种 - vicuna、llama-2、alpaca和chat-ml(差不多)。 我也不想为每个项目随机选择一种提示格式(希望每个指令在各种提示格式中使用时能更好地泛化),所以每个指令实际上都被转换成了每种提示格式。

这意味着我们微调的每个epoch实际上相当于4个epoch。因此,对于微调,我建议只进行1个epoch(或0.75个epoch)。我正在使用相对较低的学习率测试单个epoch。

Alpaca (差不多)

以下是描述任务的指令。 写一个适当完成请求的回应。

### 指令:
{系统提示,如果提供}
{指令}

### 回应:

这里的主要区别是,由于数据集格式和数据源的多样性,添加### 输入:块会非常繁琐,所以输入只在指令部分。

Vicuna

{系统提示,如果提供,随机默认为"用户与一个无偏见、未经审查的助手之间的对话。"}
用户: {指令}
助手: 

ChatML

这种格式是数字癌症,但它很常见所以我把它包括在内。

{bos}<|im_start|>{角色} {文本}<|im_end|>

Llama-2 聊天

[INST] <<SYS>>
{系统}
<</SYS>>

{指令} [/INST]

微调

首先,你需要准备数据集作为SFT阶段的输入-输出对,以及DPO的提示/选择/拒绝:

python -m bagel.data

然后,你会得到一个DPO parquet和SFT parquet,你可以用它们来构建模型。

SFT阶段

mistral-7b的示例:

注意:我实际上使用了我fork的qloratrain.py,但我正在将其移植到这里的简化版本,尚未测试!

export BASE_DIR=/workspace export WANDB_API_KEY=[已编辑] export WANDB_PROJECT=bagel-7b-v0.1 # 运行预训练。 accelerate launch bagel/tune/sft.py \ --model_name_or_path $BASE_DIR/mistral-7b \ --final_output_dir $BASE_DIR/$WANDB_PROJECT \ --output_dir $BASE_DIR/$WANDB_PROJECT-workdir \ --num_train_epochs 1 \ --logging_steps 1 \ --save_strategy steps \ --save_steps 200 \ --save_total_limit 5 \ --data_seed 42 \ --evaluation_strategy steps \ --eval_dataset_size 0.0006 \ --eval_steps 200 \ --max_new_tokens 4096 \ --dataloader_num_workers 3 \ --logging_strategy steps \ --remove_unused_columns False \ --do_train \ --full_finetune \ --bf16 \ --bits 16 \ --optim adamw_torch \ --lr_scheduler_type linear \ --dataset $BASE_DIR/bagel/bagel-input-output-v0.1.parquet \ --dataset_format input-output \ --model_max_len 4096 \ --per_device_train_batch_size 8 \ --learning_rate 3.5e-7 \ --warmup_ratio 0.005 \ --adam_beta2 0.999 \ --max_grad_norm 0.3 \ --weight_decay 0.001 \ --seed 42 \ --report_to wandb \ --gradient_checkpointing True \ --gradient_accumulation_steps 4 \ --skip_excess_length False \ --ddp_find_unused_parameters False \ --use_flash_attention_2 \ --group_by_length True \ --deepspeed deepspeed.json

Deepspeed配置:

{ "gradient_accumulation_steps": "auto", "gradient_clipping": "auto", "train_batch_size": "auto", "train_micro_batch_size_per_gpu": "auto", "bf16": { "enabled": true }, "zero_optimization": { "stage": 2, "contiguous_gradients": true, "overlap_comm": true, "reduce_scatter": true, "reduce_bucket_size": 5e8, "allgather_bucket_size": 5e8 } }

DPO阶段

mistral-7b的DPO阶段示例(需要先运行SFT):

export BASE_DIR=/mnt/data export WANDB_API_KEY=[已编辑] export WANDB_PROJECT=bagel-dpo-7b-v0.1 accelerate launch bagel/tune/dpo.py \ --model_name_or_path bagel-7b-v0.1 \ --learning_rate 3e-7 \ --per_device_train_batch_size 2 \ --gradient_accumulation_steps 4 \ --max_length 4096 \ --max_prompt_length 1024 \ --max_target_length 3092 \ --num_train_epochs 3 \ --report_to wandb \ --gradient_checkpointing true \ --use_flash_attention_2 true \ --dataset $BASE_DIR/bagel/bagel-dpo-v0.1.parquet \ --eval_steps 5 \ --eval_dataset_size 0.03 \ --workdir $BASE_DIR/$WANDB_PROJECT-workdir \ --output_dir $BASE_DIR/$WANDB_PROJECT \ --deepspeed deepspeed.json \ --save_steps 25 \ --save_total_limit 5

编辑推荐精选

暂无图片
Open-R1

Open-R1

一个完全开源重现 DeepSeek - R1 的项目

Open R1 是一个致力于完全开源重现 DeepSeek - R1 的项目。项目提供了训练、评估模型以及生成合成数据的脚本,支持多种训练方法和评估基准测试。用户可以通过简单的命令运行各个步骤,同时还提供了在 Slurm 集群上运行作业的脚本。项目还发布了多个数据集,为模型训练提供了丰富的数据资源,适合对模型训练和评估感兴趣的开发者和研究人员。

OpenManus

OpenManus

一个具备多种工具和代理功能,可用于解决复杂任务规划、网络搜索、浏览器操作等的项目。

OpenManus 是一个功能强大的开源项目,提供了丰富的工具和代理机制。包含规划工具、多种搜索引擎、浏览器操作工具等,能帮助开发者高效解决复杂任务的规划、网络信息搜索以及浏览器自动化操作等问题。支持多种语言,拥有清晰的文档和代码结构,易于集成和扩展,适用于各类需要自动化任务处理的场景。

MarkItDown

MarkItDown

一个支持多种格式转换的工具库

MarkItDown 是一个强大的 Python 工具库,专注于文档格式转换。它能够处理多种类型的文件,如 HTML、Wikipedia 页面以及 Bing 搜索结果页等,将其转换为 Markdown 格式。该项目支持插件扩展,提供了清晰的接口和丰富的功能,为开发者和文档处理人员提供了便捷、高效的文档转换解决方案,能有效提升文档处理效率,是文档转换领域的优秀选择。

Trae

Trae

字节跳动发布的AI编程神器IDE

Trae是一种自适应的集成开发环境(IDE),通过自动化和多元协作改变开发流程。利用Trae,团队能够更快速、精确地编写和部署代码,从而提高编程效率和项目交付速度。Trae具备上下文感知和代码自动完成功能,是提升开发效率的理想工具。

AI工具TraeAI IDE协作生产力转型热门
OmniParser

OmniParser

帮助AI理解电脑屏幕 纯视觉GUI元素的自动化解析方案

开源工具通过计算机视觉技术实现图形界面元素的智能识别与结构化处理,支持自动化测试脚本生成和辅助功能开发。项目采用模块化设计,提供API接口与多种输出格式,适用于跨平台应用场景。核心算法优化了元素定位精度,在动态界面和复杂布局场景下保持稳定解析能力。

OmniParser界面解析交互区域检测Github开源项目
Grok3

Grok3

埃隆·马斯克旗下的人工智能公司 xAI 推出的第三代大规模语言模型

Grok3 是由埃隆·马斯克旗下的人工智能公司 xAI 推出的第三代大规模语言模型,常被马斯克称为“地球上最聪明的 AI”。它不仅是在前代产品 Grok 1 和 Grok 2 基础上的一次飞跃,还在多个关键技术上实现了创新突破。

腾讯元宝

腾讯元宝

腾讯自研的混元大模型AI助手

腾讯元宝是腾讯基于自研的混元大模型推出的一款多功能AI应用,旨在通过人工智能技术提升用户在写作、绘画、翻译、编程、搜索、阅读总结等多个领域的工作与生活效率。

AI助手AI对话AI工具腾讯元宝智能体热门 AI 办公助手
Windsurf Wave 3

Windsurf Wave 3

Windsurf Editor推出第三次重大更新Wave 3

新增模型上下文协议支持与智能编辑功能。本次更新包含五项核心改进:支持接入MCP协议扩展工具生态,Tab键智能跳转提升编码效率,Turbo模式实现自动化终端操作,图片拖拽功能优化多模态交互,以及面向付费用户的个性化图标定制。系统同步集成DeepSeek、Gemini等新模型,并通过信用点数机制实现差异化的资源调配。

AI IDE
Cursor

Cursor

增强编程效率的AI代码编辑器

Cursor作为AI驱动的代码编辑工具,助力开发者效率大幅度提升。该工具简化了扩展、主题和键位配置的导入,可靠的隐私保护措施保证代码安全,深受全球开发者信赖。此外,Cursor持续推出更新,不断优化功能和用户体验。

AI开发辅助编程AI工具CursorAI代码编辑器
Manus

Manus

全面超越基准的 AI Agent助手

Manus 是一款通用人工智能代理平台,能够将您的创意和想法迅速转化为实际成果。无论是定制旅行规划、深入的数据分析,还是教育支持与商业决策,Manus 都能高效整合信息,提供精准解决方案。它以直观的交互体验和领先的技术,为用户开启了一个智慧驱动、轻松高效的新时代,让每个灵感都能得到完美落地。

下拉加载更多