xllm - 便捷微调大语言模型，集成最新优化技术

X—LLM 项目介绍

项目概述

X—LLM 是一个专为大规模语言模型 (LLM) 设计的精简调优库。这个项目旨在为用户提供简单易用的工具，帮助他们更高效地训练和改进语言模型。X—LLM 集成了目前最先进的训练技术（如 QLoRA、DeepSpeed 等），由 Boris Zubarev 开发。

为什么选择 X—LLM？

对于那些使用大规模语言模型的用户而言，X—LLM 提供了一个高效的解决方案。它帮助用户专注于数据和模型优化，而不是花时间在繁琐的代码编写上。无论是为了产品化准备还是快速原型开发，X—LLM 都能够胜任。

主要特性

简单的训练过程：无需复杂的设置即可开始使用。
便捷的数据集成和处理：支持无缝导入和处理新数据。
库的易扩展性：用户可以随心扩展功能。
优化的模型训练：在减小模型尺寸的同时，加快训练速度。
HuggingFace Hub 集成：模型检查点在 HuggingFace Hub 上自动保存。
广泛的模型支持：支持多种 Transformer 模型，如 Llama 2、Falcon 等。
前沿技术支持：集成了 QLoRA、flash 注意力机制等先进技术。

快速入门

X—LLM 的安装非常简单，使用 Python 和 PyTorch 进行开发。只需运行以下命令即可安装：

pip install xllm

对于包含更多训练功能的版本：

pip install "xllm[train]"

快速原型开发

以下是一个简单的原型开发案例：

from xllm import Config
from xllm.datasets import GeneralDataset
from xllm.experiments import Experiment

config = Config(
  model_name_or_path="HuggingFaceH4/zephyr-7b-beta",
  apply_lora=True,
  load_in_4bit=True,
)

train_data = ["Hello!"] * 100
train_dataset = GeneralDataset.from_list(data=train_data)

experiment = Experiment(config=config, train_dataset=train_dataset)
experiment.build()
experiment.run()