L3-DARKEST-PLANET-16.5B-GGUF 项目介绍
L3-DARKEST-PLANET-16.5B-GGUF 是一款基于 Llama 3 的语言模型,专为创造性写作而设计,支持小说、科幻、爱情等各类题材的故事创作。它的开发目标是提供详尽细致的文本生成能力,适用于写作和角色扮演等活动。
项目背景
这款模型是对已有的 "Dark Planet 8B" 模型的改进版本,由开发者 David_AU 利用 Brainstorm 40x 方法进行改造,增加了 40 层,使参数数量达到 16.5B(642 个张量)。此方法大幅改变了模型输出的行文风格和能力,使其能够生成更加丰富的细节和多样的文本结构。
主要功能与特色
- 丰富细节的文本生成:模型以其细腻而详尽的描写能力著称,能够细致描绘场景、地点和氛围,甚至会预示或概述即将发生的事件。
- 多样的行文风格:在句子和段落结构上,模型展现出非凡的变化,适用于多种写作风格的需求。
- 适用于角色扮演:模型不仅适用于文本创作,还可运用于角色扮演等需要真实生动对话的场景。
- 适应多种参数设置:该模型经过设计,能够在不同的参数下稳定运行,比如在温度设置范围从 0 到 5 的条件下,仍能保持良好的表现。
Brainstorm 40x 方法
Brainstorm 40x 的引入是这款模型的核心创新。通过将语言模型的推理中心进行拆分、重组和扩展,达到提升详细性、概念连接能力和文本质量的目的。此过程还通过多个调校中心(如 5x、10x 调校点)增强模型对世界和概念的连接能力,提升了文本生成的时效性和细致度。
使用指南
- 参数调整:通过提升温度参数和丰富提示语的细节,用户可以获得更为多样化的文本生成输出。此外,提升重命名(rep pen)参数至 1.05 或更高以防止输出文本段重复。
- 适用场合:适合故事创作、角色扮演等需要细致描绘和生动场景的任务。
- 模版支持:该模型基于 Llama 3 模板,也支持使用其他模板如 "Command-R" 模板。
未来计划
开发者计划推出更大型的模型,如 "DARKEST UNIVERSE 29B",以及名为 "DARKEST-PLANET-Seven-Rings-Of-DOOM-16.5B" 的版本,这些更新将进一步拓展模型的生成能力和适用范围。
L3-DARKEST-PLANET-16.5B-GGUF 项目旨在为创作者们提供更生动和富有表现力的写作工具,通过持续创新和优化,使其在文学创作和角色塑造中得以充分应用。