#大模型微调
petals - 本地运行大型语言模型,BitTorrent 风格
PetalsLlama 3.1分布式推理大模型微调GPU共享Github开源项目
Petals项目让用户能够在家中或通过Google Colab运行Llama 3.1、Mixtral、Falcon和BLOOM等大型语言模型。通过分布式网络托管模型层,推理速度可提升至10倍。用户可以微调模型以满足特定任务需求,并且支持隐私保护和私人群组设置。该项目依赖社区共享GPU资源,提供详细的教程和支持,帮助用户快速上手并充分利用其功能。
LearnPrompt - 永久免费开源的AIGC课程
LearnPromptChatGPTStable DiffusionAI声音&音乐大模型微调Github开源项目
LearnPrompt是一款永久免费开源的AIGC课程,支持提示语工程、ChatGPT、RAG、Agent、Midjourney等多种应用。其新版本引入了全新UI、多语言支持、评论区和日报功能。课程内容涵盖大模型微调、AI声音和音乐、数字人等多个AI领域,持续更新每日精选和社区互动,帮助用户掌握最新的AI技术和应用案例。欢迎加入学习社区,共同探索AI的无限可能。
llava-llama-3-8b-v1_1-gguf - 基于Llama-3的8B参数多模态模型实现图文交互
开源项目视觉语言模型LLaVA模型Huggingface大模型微调图像理解GithubXTuner
这是一个基于Llama-3和CLIP视觉模型构建的多模态系统,采用GGUF格式优化部署效率。模型在MMBench、CCBench等多个基准测试中展现了优秀的图像理解和文本生成能力。通过ollama或llama.cpp框架,可实现快速本地部署和图文交互功能。