Logo
Project Icon

Efficient-Computing

华为诺亚方舟实验室开发的AI模型优化技术集合

高效计算模型压缩神经网络深度学习Huawei Noah's Ark LabGithub开源项目

Efficient-Computing项目旨在提高AI模型的计算效率和性能。这个由华为诺亚方舟实验室开发的高效计算方法集合包含多个子项目，涵盖了模型压缩、二值神经网络、知识蒸馏、网络剪枝、模型量化、自监督学习、训练加速、目标检测和低层视觉等领域的技术。该项目为AI研究和开发提供了多样化的工具和资源。

GithubGithub论文论文
介绍相关项目
DeepSpeed - 大模型的训练工具
AI工具AI开发AI系统技术DeepSpeed大规模训练模型压缩模型训练热门高性能计算
DeepSpeed是一个先进的深度学习优化工具库，专门设计用于简化和增强分布式训练。通过一系列创新技术，如ZeRO、3D并行处理、MoE和ZeRO-Infinity，DeepSpeed能大幅提高训练速度，同时降低成本。这些技术支持在数千GPU上扩展模型训练，并实现低延迟和高吞吐量的推理性能。DeepSpeed同时提供了先进的模型压缩技术，优化模型存储与推理效率，是大规模AI模型训练和推理的优选方案。
DeepSpeed - 一个深度学习优化库，专为大规模模型训练和推理设计
DeepSpeedGithub分布式训练大规模模型训练开源项目模型压缩模型推理
DeepSpeed 是一个深度学习优化软件套件，专为大规模模型训练和推理设计，能显著优化系统性能和降低成本。它支持亿级至万亿级参数的高效管理，兼容各种计算环境，从资源受限的GPU系统到庞大的GPU集群。此外，DeepSpeed 在模型压缩和推理领域亦取得创新成就，提供极低的延迟和极高的处理速率。
awesome-compression - 模型压缩技术入门教程与实践指南
DatawhaleGithub实践开源项目教程模型压缩深度学习
这个开源项目提供了一个全面的模型压缩技术入门教程，涵盖剪枝、量化和知识蒸馏等方法。通过结合理论讲解和实践代码，该项目旨在降低学习门槛，帮助初学者和研究人员掌握如何有效压缩深度学习模型，以满足实际应用需求。
Aidget - 边端AI算法部署工具链 高性能推理和自动化模型压缩
AidgetGithub开源项目模型压缩深度学习推理引擎边端AI高性能计算
Aidget是一款边端AI算法部署工具链，集成高性能深度学习推理引擎和模型自动化压缩功能。适用于多种边端系统和平台，支持ONNX和TFLite等多种模型格式。特点包括轻量级部署、强通用性、易用性和高性能推理。已在智能家电领域得到实际应用，有效解决AI算法部署中的资源限制、性能优化和跨平台兼容性等问题。
llm-action - 提升AI模型训练与推理效率的高级技术与指南
GithubLLM实战LLM训练分布式训练参数高效微调开源项目微调技术
llm-action项目为NVIDIA GPU和Ascend NPU上的大模型训练提供简易工具，详细介绍了LLM训练技术的高效微调和分布式技术。深入探究LLM微调实战与技术原理，并提供实际代码示例以供学习和应用。涵盖普适性框架与多模态微调专项技术，适合开发者与研究人员优化和扩展其AI模型的能力。
optimum - 提升模型在不同硬件上的训练和运行效率的一系列优化工具
GithubHugging Face OptimumONNX RuntimeOpenVINOTransformer开源项目训练模型
Optimum扩展了Transformers和Diffusers，提供了一系列优化工具，提升模型在不同硬件上的训练和运行效率。支持的硬件平台包括ONNX Runtime、Intel Neural Compressor、OpenVINO、NVIDIA TensorRT-LLM、AMD Instinct GPUs、AWS Trainium & Inferentia、Habana Gaudi处理器和FuriosaAI。Optimum支持多种优化技术，如图优化、动态量化、静态量化和量化感知训练，配有详尽的文档和示例代码，帮助用户导出和运行优化后的模型。
quickai - 简化复杂机器学习模型的实验过程
GithubPythonQuickAIYOLO卷积神经网络开源项目机器学习
QuickAI 是一个 Python 库，简化了前沿机器学习模型的实验流程。支持 EfficientNet、VGG、ResNet 等图像分类模型和 GPT-NEO、Distill BERT 等自然语言处理模型。只需1-2行代码即可完成模型训练和评估，兼容 TensorFlow 和 PyTorch，并提供 Docker 容器便于环境配置。适用于各水平用户，助力快速推进机器学习项目。
efficientdet - EfficientDet目标检测模型的PyTorch实现
COCO数据集EfficientDetGithub开源项目深度学习目标检测计算机视觉
本项目提供了EfficientDet目标检测模型的PyTorch实现。支持COCO数据集的训练、评估和测试，在COCO val2017上达到0.314 mAP。包含预训练权重、视频测试功能和使用说明。适合研究人员和开发者参考使用。
cv_note - 分享计算机视觉和模型压缩部署技术栈笔记
CVGithub开源项目机器学习深度学习算法工程师计算机视觉
这个开源项目详细记录了计算机视觉算法工程师的成长路径，从基础编程知识到深度学习，再到模型部署。项目还提供了算法实习内推表、校招可投递公司汇总及技术栈笔记等实用资源，涵盖了编程开发、机器学习、图像识别、模型压缩等关键技术点，适合希望系统提升技术水平的工程师。
MNN - 高效轻量的深度学习框架，支持多设备推理和训练
GithubMNN开源项目推理引擎深度学习框架轻量级高性能
MNN是一个高效轻量的深度学习框架，支持设备上的推理和训练。已被阿里巴巴30多个应用集成，覆盖直播、短视频、搜索推荐等70多种场景。MNN适用于嵌入式设备，支持TensorFlow、Caffe、ONNX等多种模型格式，并优化了ARM和x64 CPU及多种GPU的计算性能。通过MNN Workbench，用户可以下载预训练模型、进行可视化训练并一键部署到设备上。
相关项目
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

稿定AI

稿定设计 是一个多功能的在线设计和创意平台，提供广泛的设计工具和资源，以满足不同用户的需求。从专业的图形设计师到普通用户，无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑，稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合，帮助用户轻松实现创意设计。

使用协议隐私政策广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号