Logo
Project Icon

DeeperSpeed

EleutherAI定制的DeepSpeed分支加速框架

DeepSpeedDeeperSpeedGPT-NeoXEleutherAI深度学习框架Github开源项目

DeeperSpeed是DeepSpeed库的分支，专为EleutherAI的GPT-NeoX项目优化。该项目提供两个版本：1.0版保留了训练GPT-NeoX-20B和Pythia Suite所用的稳定版本，2.0版则基于最新DeepSpeed构建并持续更新。DeeperSpeed通过优化训练流程，提高了大型语言模型的开发效率。

访问官网访问官网GithubGithub论文论文
介绍相关项目
segment-anything-fast - 高性能图像分割模型加速框架
AI模型加速GithubPyTorchSegment Anything图像分割开源项目推理优化
segment-anything-fast是基于Facebook's segment-anything的优化版本，专注于提高图像分割模型的性能。通过整合bfloat16、torch.compile和自定义Triton内核等技术，该项目显著提升了模型推理速度。它支持多种优化方法，如动态int8对称量化和2:4稀疏格式，同时保持了简单的安装和使用流程。这使得开发者能够轻松替换原始segment-anything，实现更高效的图像分割。该优化框架适用于需要实时或大规模图像分割处理的应用，如自动驾驶、医疗影像分析或视频编辑等领域，可显著提高处理效率和资源利用率。
Determined AI - 开源深度学习平台助力模型训练和优化
AI工具GPU资源分布式训练模型训练深度学习超参数调优
Determined AI是一个开源深度学习训练平台，集成了超参数调优和分布式训练功能。该平台支持多种深度学习框架，可在云端或本地运行，提供资源管理、实验跟踪和结果可视化等功能。它能显著加快模型训练速度，提高模型精度，让研究人员更专注于模型开发而非基础设施管理，从而提升深度学习团队的整体效率。
intel-extension-for-pytorch - 通过最新优化提升Intel硬件的深度学习性能
AIGPUsGithubIntel® Extension for PyTorchLLMs优化开源项目
Intel® Extension for PyTorch* 提供优化功能，利用Intel® AVX-512 VNNI、AMX以及XMX AI引擎，提升Intel CPU和GPU上的深度学习性能。该扩展优化了大规模语言模型（LLMs），如LLAMA、GPT-J、GPT-NEOX等，支持多种量化方法（如FP32、BF16、INT8、INT4）。此外，自2.3.0版本起，还引入了模块级优化API，为定制模型优化提供了更多选项。
sparseml - 神经网络优化工具，简化代码实现高效稀疏模型
GithubSparseML开源项目推理优化模型优化神经网络稀疏化
SparseML是开源模型压缩工具包，使用剪枝、量化和蒸馏算法优化推理稀疏模型。可导出到ONNX，并与DeepSparse结合，在CPU上实现GPU级性能。适用于稀疏迁移学习和从零开始的稀疏化，兼容主流NLP和CV模型，如BERT、YOLOv5和ResNet-50，实现推理速度和模型大小的显著优化。
faster-whisper - 基于CTranslate2对OpenAI的Whisper模型的重新实现
CTranslate2GithubOpenAI Whisper模型faster-whisper开源项目性能比较热门音频转录
faster-whisper是对OpenAI的Whisper模型的重新实现，基于CTranslate2，这是一个针对Transformer模型的高速推理引擎。该实现在保持相同准确率的前提下，速度比openai/whisper快4倍，内存使用也更少。另外，通过在CPU和GPU上使用8位量化，可以进一步提高效率。该项目适用于需要快速、高效语音转写的场景，特别是处理大量语音数据时的实时应用。
FastSpeech2 - 快速且高质量的端到端文本转语音
FastSpeech 2GithubMelGANNVIDIAPyTorch开源项目文本转语音
FastSpeech 2，面向精准快速的文本到语音转换，基于PyTorch与Espnet技术，配备Nvidia与MelGAN工具，极致优化语音生成效果，适合各类开发者利用和研究。
Mistral-Nemo-Instruct-2407-bnb-4bit - 高效LLM微调框架提速2-5倍并减少70%内存使用
GithubHuggingfaceUnsloth加速训练大语言模型开源项目微调模型节省内存
该项目为Mistral、Gemma、Llama等大语言模型提供高效微调框架。利用Unsloth技术，训练速度提升2-5倍，内存使用减少70%。项目提供多个免费Google Colab笔记本，支持Llama-3 8b、Gemma 7b、Mistral 7b等模型训练。框架操作简单，适合初学者使用，支持将微调模型导出为GGUF、vLLM格式或上传至Hugging Face平台。
tevatron - 神经检索模型训练与推理工具
GithubHuggingFaceLLM神经检索模型LoRA微调Mistral-7BTevatron开源项目
Tevatron提供高效工具包，支持在GPU和TPU上大规模训练和推理神经检索模型，集成DeepSpeed和LoRA等技术，可加载HuggingFace的预训练模型，适用于神经检索和开放域QA任务。
TriForce - 层级推测解码实现长序列生成的高效无损加速
GithubTriForce开源项目推理加速无损加速深度学习长序列生成
TriForce是一种新型长序列生成加速技术，无需额外训练即可使用。通过层级推测解码方法，该技术在保持生成质量的同时大幅提高速度。TriForce支持多种长上下文Llama模型，提供片上和卸载运行模式以适应不同硬件。在A100和RTX 4090等GPU上，TriForce展现出优异性能，为大型语言模型的高效部署开辟新途径。
Medusa - 使用多个解码头加速 LLM 生成的简单框架
GithubLLM生成Medusa加速多解码头开源项目性能优化
Medusa框架通过多解码头技术加速大型语言模型(LLM)的生成，解决了草稿模型需求、系统复杂性和采样生成效率低的问题。在保持原模型性能的基础上，Medusa通过添加新解码头预测多个未来词，显著提升生成速度。最新的Medusa-2版本支持全模型训练和自我蒸馏，使任何微调后的LLM都能利用Medusa，无需原始训练数据。测试显示在不同LLM上提升了2.2-3.6倍的速度。
相关项目
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

Project Cover

天工AI音乐

天工AI音乐平台支持音乐创作，特别是在国风音乐领域。该平台适合新手DJ和音乐爱好者使用，帮助他们启动音乐创作，增添生活乐趣，同时发现和分享新音乐。

使用协议隐私政策广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号