一个百吉饼,包罗万象
这个项目的名字是无耻地从《瞬息全宇宙》中偷来的。
数据选择
过程的第一步是创建一个数据集。 在这个案例中,我们实际上是创建一个复合数据集,包括监督微调数据(SFT)和直接偏好优化(DPO)数据。
所有指令数据,即不是纯文本(如古腾堡计划和Cinematika中的项目)或DPO的数据,都被转换成ShareGPT格式,以便更容易处理。
有关每个数据源的完整实现,请参见bagel/data_sources/*.py
中的相应代码。
通过创建指令/文本的uuid v5来进行去重,然后只添加之前没有见过的项目(数据集按照我分配的置信度分数顺序加载)。 这意味着如果一个指令在置信度为4的数据源"Foo"中出现,同时也在置信度为2的数据源"Bar"中出现,那么只会采用"Foo"中的条目。
SFT数据源
只使用训练集,并在最后进行余弦相似度去污染,作为对常见基准的理智检查。如果你不知道训练集和测试集的区别,请先学习。
- ai2_arc
- 抽象和推理数据集,在某种程度上有助于衡量"智能"。
- airoboros
- 由gpt-4生成的各种类别的合成指令。
- apps
- 包含10k个问题的Python编码数据集。
- belebele
- 多语言阅读理解数据集。
- bluemoon
- 从Bluemoon抓取的角色扮演数据,经过清理和格式化为ShareGPT格式。
- boolq
- 是/否问题语料库(似乎对AI来说回答这类问题可能出人意料地困难?)
- camel-ai biology
- GPT-4生成的生物学指令。
- camel-ai chemistry
- GPT-4生成的化学指令。
- camel-ai math
- GPT-4生成的数学指令。
- camel-ai physics
- GPT-4生成的物理学指令。
- capybara
- 用于创建capybara模型的多轮数据集。
- cinematika (指令和纯文本)
- 从电影剧本合成的角色扮演风格数据,使模型不那么枯燥。
- emobank
- 使用效价-唤醒-支配方案的情感注释。
- evol-instruct
- WizardLM的evol instruct 70k数据集。
- glaive-function-calling-v2
- GlaiveAI函数调用数据集。
- gutenberg (纯文本)
- 书籍/纯文本,同样是为了让模型不那么枯燥,只有少数由chapterize支持的例子
- limarp-augmented
- LimaRP的增强和进一步修改版本
- lmsys_chat_1m (仅gpt-4项目,也用于DPO)
- lmsys聊天竞技场收集的聊天记录,包含与各种模型的广泛聊天。
- lollms
- ParisNeo的LoLLMs问答数据集,包含使用LoLLMs的有用问答对。
- mathinstruct
- 包含各种数学相关任务和问题/问题格式的复合数据集。
- natural_instructions
- 来自1600多个任务类别的数百万条指令(按任务类型进行分层抽样,大幅减少)
- openbookqa
- 问答数据集。
- pippa
- ShareGPT格式的PIPPA去重版本。
- piqa
- 物理交互问答。
- python_alpaca
- Python指令-响应对,经验证可运行。
- ropes
- 段落效果推理情境 - 增强将文本段落中的知识应用到新情境的能力。
- rosetta_code
- 从rosettacode.org获取的各种编程语言的代码问题和解决方案。
- slimorca
- OpenOrca的约50万个经gpt-4验证的聊天记录集合。
- sql-create-context
- 面向SQL的数据集,结合了WikiSQL和Spider。
- squad_v2
- 上下文问答(RAG)。
- airoboros-summarization
- 各种摘要数据集的组合,格式化为airoboros上下文遵从格式。
- synthia
- Migel Tissera使用先进提示技术由GPT-4生成的数据。
- whiterabbitneo chapter 1和chapter 2
- WhiteRabbitNeo/Migel Tissera的攻击性网络安全数据集
- winogrande
- 填空式提示。
DPO数据源
- airoboros 3.1 vs airoboros 2.2.1
- airoboros-2.2.1中的创意/写作任务使用gpt4-0314和自定义提示重新生成,以获得更长、更有创意、更少陈词滥调的响应,用于airoboros 3.1,所以我们可以使用较短/无聊的版本作为"拒绝"值,重新生成的响应作为"选择"
- contextual-dpo
- 使用airoboros上下文遵从问答格式的上下文提示/响应数据集。
- helpsteer
- NVidia提供的非常棒的数据集,包含跨多个指标的人工注释。这里只使用了"正确性"值最高的项目进行DPO,得分最高的输出作为"选择",随机较低得分值作为"拒绝"
- distilabel_orca_dpo_pairs
- 另一个有趣的数据集,最初由Intel创建,由argilla使用distilabel增强,提供了从SlimOrca数据集中包含的提示生成的各种DPO对。
- gutenberg-dpo
- 旨在提高模型小说写作能力的DPO对,使用来自https://gutenberg.org/的公共领域书籍
- py-dpo
- Python DPO数据集(基于上面的SFT python_alpaca数据集)
- toxic-dpo
- 高度有毒且可能非法的内容! 仅用于学术和合法目的的去审查。由llama-2-70b通过提示工程生成。
- truthy
- 旨在提高模型真实性的DPO对,例如常见误解,区分AI助手和角色扮演人类在身体意识/局部性等方面的差异。
- ultrafeedback
- Zephyr模型背后的魔法之一。只包含了选择分数为8或更高的项目。
只使用了训练集(如果提供了分割),并使用近似最近邻搜索(通过faiss)进行额外的去污染处理。
提示格式化
为了与百吉饼的主题保持一致,我不想使用单一的提示格式,所以我使用了4种 - vicuna、llama-2、alpaca和chat-ml(差不多)。 我也不想为每个项目随机选择一种提示格式(希望每个指令在各种提示格式中使用时能更好地泛化),所以每个指令实际上都被转换成了每种提示格式。
这意味着我们微调的每个epoch实际上相当于4个epoch。因此,对于微调,我建议只进行1个epoch(或0.75个epoch)。我正在使用相对较低的学习率测试单个epoch。
Alpaca (差不多)
以下是描述任务的指令。 写一个适当完成请求的回应。
### 指令:
{系统提示,如果提供}
{指令}
### 回应:
这里的主要区别是,由于数据集格式和数据源的多样性,添加### 输入:
块会非常繁琐,所以输入只在指令部分。
Vicuna
{系统提示,如果提供,随机默认为"用户与一个无偏见、未经审查的助手之间的对话。"}
用户: {指令}
助手:
ChatML
这种格式是数字癌症,但它很常见所以我把它包括在内。
{bos}<|im_start|>{角色}
{文本}<|im_end|>
Llama-2 聊天
[INST] <<SYS>>
{系统}
<</SYS>>
{指令} [/INST]
微调
首先,你需要准备数据集作为SFT阶段的输入-输出对,以及DPO的提示/选择/拒绝:
python -m bagel.data
然后,你会得到一个DPO parquet和SFT parquet,你可以用它们来构建模型。
SFT阶段
mistral-7b的示例:
注意:我实际上使用了我fork的qlora的train.py
,但我正在将其移植到这里的简化版本,尚未测试!
export BASE_DIR=/workspace
export WANDB_API_KEY=[已编辑]
export WANDB_PROJECT=bagel-7b-v0.1
# 运行预训练。
accelerate launch bagel/tune/sft.py \
--model_name_or_path $BASE_DIR/mistral-7b \
--final_output_dir $BASE_DIR/$WANDB_PROJECT \
--output_dir $BASE_DIR/$WANDB_PROJECT-workdir \
--num_train_epochs 1 \
--logging_steps 1 \
--save_strategy steps \
--save_steps 200 \
--save_total_limit 5 \
--data_seed 42 \
--evaluation_strategy steps \
--eval_dataset_size 0.0006 \
--eval_steps 200 \
--max_new_tokens 4096 \
--dataloader_num_workers 3 \
--logging_strategy steps \
--remove_unused_columns False \
--do_train \
--full_finetune \
--bf16 \
--bits 16 \
--optim adamw_torch \
--lr_scheduler_type linear \
--dataset $BASE_DIR/bagel/bagel-input-output-v0.1.parquet \
--dataset_format input-output \
--model_max_len 4096 \
--per_device_train_batch_size 8 \
--learning_rate 3.5e-7 \
--warmup_ratio 0.005 \
--adam_beta2 0.999 \
--max_grad_norm 0.3 \
--weight_decay 0.001 \
--seed 42 \
--report_to wandb \
--gradient_checkpointing True \
--gradient_accumulation_steps 4 \
--skip_excess_length False \
--ddp_find_unused_parameters False \
--use_flash_attention_2 \
--group_by_length True \
--deepspeed deepspeed.json
Deepspeed配置:
{
"gradient_accumulation_steps": "auto",
"gradient_clipping": "auto",
"train_batch_size": "auto",
"train_micro_batch_size_per_gpu": "auto",
"bf16": {
"enabled": true
},
"zero_optimization": {
"stage": 2,
"contiguous_gradients": true,
"overlap_comm": true,
"reduce_scatter": true,
"reduce_bucket_size": 5e8,
"allgather_bucket_size": 5e8
}
}
DPO阶段
mistral-7b的DPO阶段示例(需要先运行SFT):
export BASE_DIR=/mnt/data
export WANDB_API_KEY=[已编辑]
export WANDB_PROJECT=bagel-dpo-7b-v0.1
accelerate launch bagel/tune/dpo.py \
--model_name_or_path bagel-7b-v0.1 \
--learning_rate 3e-7 \
--per_device_train_batch_size 2 \
--gradient_accumulation_steps 4 \
--max_length 4096 \
--max_prompt_length 1024 \
--max_target_length 3092 \
--num_train_epochs 3 \
--report_to wandb \
--gradient_checkpointing true \
--use_flash_attention_2 true \
--dataset $BASE_DIR/bagel/bagel-dpo-v0.1.parquet \
--eval_steps 5 \
--eval_dataset_size 0.03 \
--workdir $BASE_DIR/$WANDB_PROJECT-workdir \
--output_dir $BASE_DIR/$WANDB_PROJECT \
--deepspeed deepspeed.json \
--save_steps 25 \
--save_total_limit 5