#SillyTavern

SillyTavern是一款基于TavernAI 1.2.8的开源项目改编而来的用户界面，支持安装在计算机和安卓设备上。它支持与多种文本生成AI后端如KoboldAI、Horde、NovelAI等通讯，提供丰富的交互选项包括角色扮演、自定义界面和自动翻译功能。此外，还提供第三方拓展的下载支持。由于其轻量级设计，适合所有类型的设备，无需依赖高端硬件。

ChatGPTCLIBot是一款支持多种GPT模型（如gpt-3.5-turbo、text-davinci-003、GPT-4）的CLI程序。用户可以通过修改config.json文件轻松切换模型，并享有接近无限的上下文记忆和自定义初始提示功能。此外，该工具支持聊天记录保存、撤销和重置操作，提升使用效率。适用于Windows、Linux和macOS操作系统，这是一个高效的跨平台聊天工具。

L3-8B-Stheno-v3.2-GGUF-IQ-Imatrix是一个经过优化量化的Llama 3大语言模型。该模型针对角色扮演场景进行了特别优化,支持故事创作和多轮对话。通过多种量化版本实现了低资源运行,8GB显存即可部署使用。模型在保持创造力的同时,具备出色的对话连贯性和指令遵循能力。

在Llama-3-Lumimaid-8B-v0.1-OAS项目的v2版本中，模型转换方式有所改进，通过Orthogonal Activation Steering增强了模型响应灵活性。建议使用最新的KoboldCpp版本以获得最佳兼容性。此次更新还引入了Luminae数据集，结合ERP与RP数据提升了模型智能性。对于8GB VRAM GPU，推荐使用Q4_K_M-imat quant（4.89 BPW）以支持较大的上下文尺寸。

MN-12B-Lyra-v4是Sao10K在Mistral Nemo模型基础上进行的优化项目，采用了ChatML提示格式。该模型支持在SillyTavern中使用的ChatML预设，并具备多功能性和易用性。兼容Virt-io的ChatML v1.9预设，用于特定场景设置的指导可以在Hugging Face的文档中找到。MN-12B-Lyra-v4通过llama.cpp量化，更多信息可通过提供的链接查看。适用于自然语言处理和对话生成，特别在角色扮演应用中表现优异。