mikupad
mikupad 是一个由 ReactJS 驱动的轻量级高效语言模型前端,全部打包在一个 HTML 文件中。该项目受到 NovelAI 等类似产品的启发,为文本生成提供了一个简单而强大的界面,可搭配多种后端使用。
特性
- 多后端支持:支持多种后端,包括 llama.cpp、koboldcpp 以及任何具有 OpenAI 兼容 API 的后端。您可以无缝切换这些后端,获得不同的文本生成体验。
- 会话持久化:您的文本生成会话会自动保存和恢复。这意味着您可以分多次完成文本创作,随时从上次停止的地方继续。导入和导出您的会话,轻松分享您的创作成果或在不同设备间切换。
- 持久上下文:
- 记忆:在上下文开头无缝注入您选择的文本。
- 作者注释:在上下文末尾无缝注入您选择的文本,可调整深度。
- 世界信息:根据特定关键词动态在上下文中包含额外信息。
- 预测撤销/重做:可以撤销和重做预测,方便您实验和微调生成的文本,直到达到理想效果。
- 词元概率 (llamacpp/openai 后端):当您将鼠标悬停在生成文本中的词元上时,将显示最多 10 个词元及其概率。这些信息可以帮助您优化文本。此外,您可以点击其他词元的概率来从该点重新开始文本生成。
- 如果您使用 oobabooga,请确保使用 _HF 采样器以使此功能正常工作。
- 对数偏差 (llamacpp/koboldcpp 后端):实时调整特定词元生成的可能性。
- 补全/聊天模式:在补全模式下让模型直接继续您的提示,或切换到聊天模式,将您的输入包装在用户定义的指令格式中。
- 主题:从多种主题中选择,定制您的环境。
开始使用
您可以通过在网络浏览器中打开 mikupad.html
文件轻松运行 mikupad。无需额外安装。选择您喜欢的后端并开始生成文本!
git clone https://github.com/lmg-anon/mikupad.git
cd mikupad
open mikupad.html
要完全离线使用 mikupad,请运行提供的 compile
脚本或从 Releases 下载预编译的 mikupad_compiled.html
文件。
您也可以在 GitHub Pages 上尝试使用。
贡献
欢迎开源社区的贡献。无论是修复错误、添加功能还是改进文档,我们都非常感谢您的贡献。要为 mikupad 做出贡献,请遵循以下步骤:
- 复刻(Fork)存储库。
- 为您的更改创建一个新分支:
git checkout -b feature/your-feature-name
- 进行更改并提交:
git commit -m '添加您的功能'
- 将更改推送到您的复刻存储库:
git push origin feature/your-feature-name
- 在主存储库上开启拉取请求,说明您的更改。
许可证
该项目根据 CC0 许可证发布到公共领域 - 详情请参阅 LICENSE 文件。