Project Icon

DeeperSpeed

EleutherAI定制的DeepSpeed分支加速框架

DeeperSpeed是DeepSpeed库的分支,专为EleutherAI的GPT-NeoX项目优化。该项目提供两个版本:1.0版保留了训练GPT-NeoX-20B和Pythia Suite所用的稳定版本,2.0版则基于最新DeepSpeed构建并持续更新。DeeperSpeed通过优化训练流程,提高了大型语言模型的开发效率。

PowerInfer - 消费级GPU上大型语言模型高效推理引擎
GPU加速GithubPowerInfer大语言模型局部性设计开源项目混合CPU/GPU使用
PowerInfer是一款在个人电脑上针对消费级GPU设计的高效大型语言模型(LLM)推理引擎。它结合激活局部性原理和CPU/GPU混合技术,通过优化热/冷激活神经元的处理方式,显著提高推理速度并降低资源消耗。软件还融入了适应性预测器和神经元感知技术,优化了推理效率和精度,支持快速、低延迟的本地模型部署。
DeepSeek-Coder - 支持多种编程语言的高性能开源代码模型
AI编程助手DeepSeek CoderGithub代码生成开源项目性能评估模型训练
DeepSeek-Coder是一系列基于2T代码和自然语言数据训练的代码语言模型。提供1B至33B不同规模版本,支持项目级代码补全和插入。该模型在多种编程语言和基准测试中表现出色,支持87种编程语言,并在HumanEval、MBPP等评测中优于现有开源模型。
determined - 深度学习平台,支持分布式训练与超参数调优
DeterminedGithubPyTorchTensorFlow分布式训练开源项目深度学习平台
Determined平台兼容PyTorch和TensorFlow,提供分布式训练、超参数调优和资源管理,降低云端GPU成本并支持实验追踪分析和可复现性。通过Python库、命令行界面和Web用户界面,用户能够轻松构建和管理模型,支持本地和云端部署,包括AWS和GCP。丰富的文档和示例帮助快速上手,通过用户指南、社区支持和贡献者指南,确保完整平台功能的利用。
llama-160m-accelerator - 基于多阶段MLP的LLaMA-160M模型推理加速器
DockerGithubHuggingfacevLLM开源项目文本生成模型模型加速深度学习
这是一个为JackFram/llama-160m模型设计的加速器项目,借鉴了Medusa推测解码架构的思想。该加速器通过改造MLP为多阶段结构,实现了基于状态向量和先前采样令牌的单token预测,有效提升了模型推理速度。项目支持与vLLM和Hugging Face TGI等工具集成,为大型语言模型的高效部署提供了实用解决方案。加速器的训练过程轻量化,能够在短时间内完成,适用于各种规模的生成式模型。
Whisper-Finetune - 语音识别模型的高效微调与加速
GithubWhisper中文识别加速推理开源项目模型微调语音识别
Whisper-Finetune项目致力于优化OpenAI的Whisper语音识别模型。该项目采用Lora技术进行微调,支持多种数据类型的训练,并通过CTranslate2和GGML实现加速推理。此外,项目提供了跨平台应用和服务器部署方案,为语音识别应用开发提供了全面支持。
ms-swift - 支持300+模型训练和轻量级微调的高效框架
GithubLLMModelScopeSWIFT多模态模型开源项目轻量级训练
SWIFT是一款高效框架,支持超过300个大语言模型和50多个多模态大模型的训练、推理、评估和部署。它集成了NEFTune、LoRA+和LLaMA-PRO等先进技术,适用于研究和生产环境。框架还提供了易用的Gradio web-ui界面和详细文档,非常适合初学者和资深开发者使用。最新版本增加了对多种前沿模型和加速算法的支持,适用于广泛的应用场景。
Phi-3-mini-4k-instruct-bnb-4bit - 通过Unsloth工具提升深度学习模型微调速度与内存效率
GithubGoogle ColabHuggingfaceUnslothtransformers开源项目机器学习模型模型微调
项目通过提供免费、易于使用的Google Colab笔记本,便于在微调Phi-3.5、Llama 3.1、Mistral等深度学习模型时实现更高效的速度与内存管理,内存使用减少达74%。用户只需添加数据集并执行所有代码,便可获得加速至最高3.9倍的微调模型,支持导出多种格式或上传至Hugging Face平台。Colab快捷方式有效简化模型微调过程,适用于文本生成和对话模板。
booster - 大规模GPT模型部署和高效推理加速器
AI绘图BoosterGPTGithubGolangLLM加速开源项目
Large Model Booster利用Golang和C++技术构建高性能且可扩展的LLM推理加速器,适用于生产环境中的GPTs大规模部署和独立模型实验。支持多种现代CPU和GPU,包括Intel、AMD、ARM64、Apple Silicon及Nvidia CUDA等,支持大模型切分及FP16/FP32和量化版本。涵盖LLaMA、Mistral、Gemma等主流LLM架构,提供SOTA Janus Sampling实现。项目提供详细的编译到部署指南,并支持OpenAI和Ollama的兼容API端点。
DeepSeek-Coder-V2-Instruct - 高性能开源MoE代码语言模型支持338种编程语言
AI编程DeepSeek-Coder-V2GithubHuggingface大型语言模型开源模型开源项目模型混合专家模型
DeepSeek-Coder-V2是一个开源的MoE代码语言模型,通过6万亿token的额外预训练,大幅提升了编码和数学推理能力。该模型支持338种编程语言,具有128K的上下文长度,在多项标准基准测试中表现优异。DeepSeek-Coder-V2不仅在代码相关任务中媲美GPT4-Turbo,还在某些方面超越了多个知名闭源模型。
deberta-v3-xsmall - 轻量级高性能自然语言处理模型
DeBERTaGithubHuggingface开源项目微软机器学习模型自然语言处理预训练模型
DeBERTa-v3-xsmall是一个参数量仅为2200万的轻量级自然语言处理模型。该模型采用ELECTRA风格预训练和梯度解耦嵌入共享技术,在SQuAD 2.0和MNLI等任务上表现出色。它在保持高效性的同时,显著提升了下游任务性能,适用于资源受限的自然语言理解应用场景。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

Project Cover

天工AI音乐

天工AI音乐平台支持音乐创作,特别是在国风音乐领域。该平台适合新手DJ和音乐爱好者使用,帮助他们启动音乐创作,增添生活乐趣,同时发现和分享新音乐。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号