Moonlight-L3-15B-v2-64K 项目介绍
项目背景
Moonlight-L3-15B-v2-64K 是一个人工智能模型项目,旨在通过精心调整和大量数据的训练,提升模型的表现能力。针对上一版本(v2)存在的问题,该项目进行了优化更新,也欢迎用户反馈,以便进一步改进。
图像展示
项目的页面包含了一幅代表性的图像,让人更直观地了解模型能力的展现。
项目增强功能
细化调整
该模型经过了在不同的角色扮演(RP)数据表和一些复杂含义的数据表上的细化调整。通过这些调整,模型在理解和生成文本方面的能力得到了显著提升。
64K 上下文
模型基于 Ttimofeyka 的 Llama-3-15B-64k 指导数据进行了调整,支持64k的上下文处理能力。这意味着模型能够处理更长的文本输入,使其在许多应用中具有更大的灵活性和实用性。
指导示例模板
项目提供了默认的 llama3 指导和上下文预设,并附上了使用的具体指导链接,供用户参考以充分利用模型的潜力。
采样器设置
该模型提供了两种主要模式的参数设置:
创意模式
这种模式下,模型的创造力被释放,适合生成更具创意的内容。
- 温度(Temp):1.2
- 最小概率(Min P):0.01
- 重复罚则(Repetition Penalty):1.05
精确模式
这种模式强调输出的准确性与逻辑性。
- 温度(Temp):0.6 - 0.8
- 最小概率(Min P):0.1
- 重复罚则(Repetition Penalty):1.1
主要特色
- 64k 支持:能够处理长文本输入,经由32k数据表细化调整。
- 角色扮演能力:可以自动模拟非玩家角色(NPC)的对话。
- 高创造性输出:类似 OpenCrystal 12B,但更具连贯性。
- 出色的逻辑性:依靠15B参数模型,提供更理性的响应。
- 无错觉生成:确保输出准确可靠,适用于图像提示生成和总结。
系统提示
模型设计了一个详细的系统提示,指导如何逐步发展情节、保持角色一致性,以及通过生动、详尽的描述使故事更具沉浸感和吸引力。
用户反馈
为了进一步提升模型质量,项目团队邀请用户在指定链接上提供使用反馈,以便不断优化模型表现。