#Modal
quillman
一个开源项目,提供实时语音转录和自然语音合成的聊天应用,使用Zephyr语言模型和OpenAI Whisper技术。适用于开发和实验自定义语言模型应用,可在Modal平台上无服务器部署。提供在线演示、详细文档和模块化结构,方便本地开发和部署。
modal-examples
该项目提供一系列示例,帮助用户使用Modal构建强大且可扩展的应用程序。示例按类别组织,通过运行本地脚本与云端Modal通信,实现无服务器容器的按需生成。项目涵盖从入门到高级的概念,适用于Python 3.11,并根据MIT许可证发布。
modal-client
Modal是一个Python库,使开发者能够从本地Python脚本访问无服务器云计算资源。支持Python 3.8至3.12版本,可通过pip快速安装。该项目提供丰富的示例应用、详细的用户指南和API参考文档。开发者可在命令行创建或链接Modal账户,便于使用这一云计算工具。
llm-finetuning
这个开源项目整合了Modal和axolotl,为大语言模型微调提供了一个高效框架。它采用Deepspeed ZeRO、LoRA适配器和Flash Attention等先进技术,实现了高性能的模型训练。该框架支持云端部署,简化了资源管理流程,并可灵活适配不同模型和数据集。项目还提供了全面的配置说明和使用指南,方便开发者快速上手和定制化应用。
doppel-bot
DoppelBot是一个Slack应用,通过抓取目标用户的消息并微调大型语言模型来模仿其回复风格。项目采用无服务器架构,包含微调、推理和抓取功能。安装后,可使用简单命令训练和召唤机器人,实现个性化AI互动。
turbo-art
turbo.art是一个基于SDXL Turbo的实时AI图像编辑平台,提供直观界面实现即时图像创作和编辑。作为完全serverless的应用,turbo.art托管在Modal上,为用户提供高效的图像处理工具。该项目开源于GitHub,支持本地开发和部署,可在https://turbo.art体验这一创新的AI图像编辑技术。
server-bot-quick-start
server-bot-quick-start项目为开发者提供多种聊天机器人示例代码,涵盖基础Echo bot、Poe API调用、OpenAI API封装等功能。项目还包含Markdown渲染、多媒体处理、文件上传、函数调用、日志记录和HTTP请求处理等高级特性。通过这些示例,开发者可以快速掌握在Poe平台上构建和部署多样化聊天机器人的技巧。
Shush
Shush是一个开源项目,展示了如何在Modal平台上部署WhisperV3语音识别模型,并通过NextJS应用程序实现交互。该项目集成了Next.js前端和Modal后端,演示了高性能模型运行、可靠API构建和自动扩展功能。开发者可以通过此项目学习如何快速部署AI模型后端,并构建响应式前端应用,实现高效的语音转文本功能。