#RLHF

chatbot

该项目提供一个可用自定义语料训练的中文聊天机器人，并即将推出GPT版本，新增MindSpore支持。项目包含Seq2Seq和GPT两大分支，计划于2024年内实现类似mini-GPT4的图文多模态对话功能，并增强分布式集群训练能力。用户可下载小黄鸡语料进行实践，项目支持TensorFlow和PyTorch。

RLHF-Reward-Modeling

该项目专注于通过顺序拒绝采样微调和迭代DPO方法进行奖励和偏好模型训练，提供包括ArmoRM、Pair Preference Model和Bradley-Terry Reward Model在内的多种开源模型，并在RewardBench排行榜中表现显著。项目内容涵盖奖励建模、模型架构、数据集准备和评估结果，适用于基于DRL的RLHF及多项学术研究。

pykoi-rlhf-finetuned-transformers

pykoi是一个开源的Python库，利用RLHF优化大型语言模型（LLM）。它提供统一界面，包含RLHF/RLAIF数据和反馈收集、强化学习微调及模型比较等功能，支持用户存储聊天记录并进行性能对比。此外，pykoi还支持快速实现上下文感知对话生成，并确保数据隐私和安全，适用于CPU和GPU等多种计算资源。

LLM-RLHF-Tuning

本项目实现了RLHF的三阶段训练，包括指令微调、奖励模型训练和PPO算法训练。支持LLaMA和LLaMA2模型，并提供多种分布式加速训练方法。项目附有详细的实现文档，并对比了其他开源框架的功能，是RLHF训练的宝贵资源。

Vicuna-LoRA-RLHF-PyTorch

本文详述如何在普通硬件上优化Vicuna语言模型，包括环境配置、监督微调、合并PEFT适配器、训练奖励模型和PPO微调等步骤，适合中文技术人员使用。

awesome-llm-human-preference-datasets

本页面汇总了多个人类偏好开源数据集，适用于LLM的指令调整、强化学习和评估。涵盖的数据集包括OpenAI WebGPT Comparisons、OpenAI Summarization和Anthropic HH-RLHF等。数据集中包含的问题、模型回答和人类评价数据，旨在为语言模型的开发和改进提供资源。覆盖文本摘要、对话、人类偏好比较等领域，为LLM研究和应用提供全面支持。

open-chatgpt

Open-ChatGPT是一个开源库，能够使用个人数据和最少的计算资源训练个性化的ChatGPT模型。该库提供端到端训练框架，支持分布式训练和卸载，适用于使用DeepSpeed和RLHF技术训练的模型。项目还包括Stanford Alpaca Lora的最新实现，并提供丰富的公开指令调整和RLHF数据集，便于开发者和研究人员使用。

awesome-RLHF

此页面汇集了关于强化学习与人类反馈（RLHF）的最新研究论文，涵盖从基础概念到高级技术，包括大语言模型、视频游戏、机器人和个性化推荐系统等应用。页面将持续更新，跟踪此领域的前沿进展。

PaLM-rlhf-pytorch

本项目实现了基于PaLM架构的强化学习与人类反馈（RLHF），适用于开放环境下的ChatGPT复现。结合了LoRA微调和Flash Attention技术，提供详细的安装和使用指南。加入社区，探索最新的PPO和RL技术进展。