访问官网
HuggingfaceMistral-Small-22B-ArliAI-RPMax-v1.1 项目介绍
RPMax 系列概述
Mistral-Small-22B-ArliAI-RPMax-v1.1 属于 RPMax 模型系列之一。这个系列包括多个不同参数规模的模型，例如2B、3.8B、8B，直到70B等。这些模型的设计初衷是通过多样化和去重的数据集训练，以保证模型的创造性和非重复性。在这样的训练数据集中，没有两处数据会重复相同的人物或情景，使得模型能够在多样化的角色和情境中进行适当理解和反应。
用户在早期测试中反馈，这些模型展现出了一种与众不同的风格，与其他 RP 模型截然不同，且不显得单一或重复。
如果您对这些模型感兴趣，可以访问 arliai.com 获取更多信息，并在 Reddit ArliAI 社区 提出问题。同时，我们还有一个新的 Discord 服务器，您可以在上面互动：Discord 服务器。
模型描述
Mistral-Small-22B-ArliAI-RPMax-v1.1 是基于 Mistral 系列的一个变体，并采用了较为严格的 Mistral 许可，因此仅限于个人使用。
训练细节
- 序列长度：8192
- 训练时长：约 4 天，基于 2 台 3090Ti 显卡
- 训练轮次：1 轮，以最小化重复病症
- QLORA：使用 64 级 128-alpha，导致约2%的可训练权重
- 学习率：0.00001
- 梯度积累：采用较低的32，以实现更佳学习效果
量化格式
该模型提供多种量化格式，用户可以根据需求选择：
建议的提示格式
该模型建议使用 Mistral 指令格式，例如在实际应用中为获得最佳效能，用户应参考此格式进行模型交互。
