Project Icon

xFasterTransformer

高效的大规模语言模型推理优化方案

xFasterTransformer是一个为X86平台优化的大规模语言模型(LLM)推理解决方案,支持多插槽和节点的分布式运行,适用于大型模型推理。它提供C++和Python API,支持例如ChatGLM、Llama、Baichuan等流行的LLM模型,并可通过PyPI、Docker或从源代码进行安装。项目附带详细文档、API使用示例、基准测试代码和Web演示,确保用户能充分利用其高性能和高扩展性。

TransformerEngine - 用于在 NVIDIA GPU 上加速 Transformer 模型的库
FP8GithubHopper GPUNVIDIATransformer Engine开源项目深度学习
Transformer Engine是NVIDIA推出的一个库,专门用于在其GPU上加速Transformer模型。该库支持8位浮点(FP8)精度,使训练和推理性能大幅提升的同时,内存使用降低。TE提供了一系列优化的构建模块和混合精度API,适用于各种流行的深度学习框架,保证精度不受影响。通过与主流大型语言模型库的集成,简化了FP8支持的实现,使Transformer模型的训练和推理更加高效和便捷,适用于多种NVIDIA GPU架构。
faster-whisper-large-v2 - 多语言语音识别模型 支持高效转录和翻译
CTranslate2GithubHuggingfaceWhisper开源项目模型模型转换自然语言处理语音识别
faster-whisper-large-v2是基于OpenAI Whisper large-v2模型转换的CTranslate2格式语音识别模型。该模型支持100多种语言的音频转录和翻译,性能高效且语言覆盖范围广泛。开发者可通过faster-whisper库轻松使用,实现强大的多语言语音处理。模型采用FP16格式保存权重,可在加载时根据需求调整计算类型,适应不同应用场景。
BitNet-Transformers - 缩放1-bit大语言模型,提高GPU内存利用率
BitNet-TransformersGithubHuggingfaceLLama(2)Wikitext-103pytorch开源项目
BitNet-Transformers项目使用Llama (2)架构,并通过1-bit权重缩放技术,实现对大型语言模型的高效训练和推理。该项目基于Huggingface Transformers,显著降低了GPU内存占用,从原始LLAMA的250MB减少到BitNet模型的最低要求。用户可通过wandb实时追踪训练进度,并在Wikitext-103上进行训练。项目提供了详细的开发环境配置和训练步骤指南,为研究者和开发者提供有力支持。
faster-whisper-small - 优化的Whisper小型模型实现快速多语言语音转文本
CTranslate2GithubHuggingfaceWhisper开源项目模型模型转换自然语言处理语音识别
faster-whisper-small是OpenAI Whisper小型模型的优化版本,适用于CTranslate2框架。这个模型支持90多种语言的自动语音识别,采用float16量化以提高效率。开发者可通过faster-whisper库轻松集成该模型,适用于多种语音转文本场景。模型具有快速处理能力和广泛的语言覆盖范围,为自动语音识别任务提供了实用的解决方案。
nanotron - 高效的大规模模型预训练库
GithubNanotronTransformer并行计算开源项目模型预训练深度学习
Nanotron是一个开源的Transformer模型预训练库。它提供灵活API,支持自定义数据集预训练。该库特点包括高性能、可扩展性强,支持3D并行、专家并行、AFAB和1F1B调度策略、ZeRO-1优化器等先进技术。Nanotron适用于大规模模型训练,旨在提高预训练效率。
faster-whisper-large-v1 - CTranslate2模型转换助力高效语音识别
CTranslate2GithubHuggingfaceWhisper large-v1开源开源项目模型模型转换自动语音识别
项目展示如何将openai/whisper-large模型转换为高效的CTranslate2格式,支持多语种语音转录,适合高精度及快速处理场景。
torchscale - 高效扩展Transformer模型的PyTorch开源库
DeepNetGithubLongNetPyTorchTorchScaleTransformers开源项目
TorchScale是一个PyTorch开源库,旨在帮助研究人员和开发者有效扩展Transformer模型。该库专注于开发基础模型和AGI架构,提升建模的通用性、能力以及训练的稳定性和效率。其关键功能包括DeepNet的稳定性、Foundation Transformers的通用性、可延展性的Transformer和X-MoE的效率。最新更新涉及LongNet和LongViT等创新架构,支持多种应用,如语言、视觉和多模态任务,用户仅需几行代码即可快速创建和调整模型。
FLASH-pytorch - FLASH 线性时间内提升Transformer效能的开源实现
FLASHGithubPyTorchTransformer开源项目注意力机制深度学习
FLASH-pytorch是一个开源项目,实现了一种高效的Transformer变体。该项目采用门控注意力单元(GAU)和分组线性注意力,在线性时间内提升模型性能。它提供简洁API,支持自回归和非自回归模式,并整合多种位置编码技术。这一工具使研究人员和开发者能够便捷地探索和应用Transformer的最新优化技术。
InfiniTransformer - 非官方的PyTorch和Transformers实现
Gemma modelGithubInfiniTransformerLlama3PyTorch开源项目🤗Transformers
InfiniTransformer是一个非官方的PyTorch和Transformers实现,支持Llama3和Gemma模型。包含两种Infini注意力实现类型:全模型替换和仅替换注意力层。详细介绍了从克隆仓库、安装依赖到训练和推理的步骤,便于用户快速上手和扩展。
vram-40 - 优化Transformer模型的内存和性能实现
GithubHuggingfaceTransformers人工智能开源项目机器学习模型深度学习自然语言处理
vram-40项目专注于优化Transformer模型的内存使用和计算性能。通过改进的技术和算法,该项目旨在使大规模语言模型能在有限硬件资源上高效运行。这一实现方案可能有助于提高Transformer模型在各种应用场景中的实用性。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号