Logo

#Modal

Logo of llm-finetuning
llm-finetuning
这个开源项目整合了Modal和axolotl,为大语言模型微调提供了一个高效框架。它采用Deepspeed ZeRO、LoRA适配器和Flash Attention等先进技术,实现了高性能的模型训练。该框架支持云端部署,简化了资源管理流程,并可灵活适配不同模型和数据集。项目还提供了全面的配置说明和使用指南,方便开发者快速上手和定制化应用。
Logo of Shush
Shush
Shush是一个开源项目,展示了如何在Modal平台上部署WhisperV3语音识别模型,并通过NextJS应用程序实现交互。该项目集成了Next.js前端和Modal后端,演示了高性能模型运行、可靠API构建和自动扩展功能。开发者可以通过此项目学习如何快速部署AI模型后端,并构建响应式前端应用,实现高效的语音转文本功能。