亮点
MMDeploy 1.x 已发布,它已适配 OpenMMLab 2.0 中的上游代码库。使用时请对齐版本。
默认分支已经从 master
切换为 main
。MMDeploy 0.x(master
)将被弃用,未来新特性将仅添加到 MMDeploy 1.x(main
)。
mmdeploy | mmengine | mmcv | mmdet | others |
---|---|---|---|---|
0.x.y | - | <=1.x.y | <=2.x.y | 0.x.y |
1.x.y | 0.x.y | 2.x.y | 3.x.y | 1.x.y |
deploee 提供了超过 2,300 个 AI 模型,包括 ONNX、NCNN、TRT 和 OpenVINO 格式。deploee 内置了真实硬件设备列表,使用户可以将 Torch 模型转换为任何目标推理格式进行性能分析。
简介
MMDeploy 是一个开源的深度学习模型部署工具集。它是 OpenMMLab 项目的一部分。
主要特性
完全支持 OpenMMLab 模型
目前支持的代码库和模型如下,未来会加入更多
多种推理后端可用
支持的设备-平台-推理后端体现在以下矩阵中,未来会支持更多。
基准测试可以从这里找到
高效且可扩展的 C/C++ SDK 框架
SDK 中的各种模块都可以扩展,例如用于图像处理的 Transform
,用于神经网络推理的 Net
,用于后处理的 Module
等等。
文档
请阅读 getting_started 了解 MMDeploy 的基本使用方法。 我们还提供以下教程:
基准测试和模型库
您可以在 这里 找到支持的模型及其在 基准测试 中的性能表现。
贡献
我们欢迎所有对 MMDeploy 的贡献。 请参考 CONTRIBUTING.md 获取贡献指南。
致谢
我们诚挚感谢以下团队为 MMDeploy 做出的贡献:
引用
如果您觉得此项目对您的研究有帮助,请考虑引用:
@misc{=mmdeploy,
title={OpenMMLab's Model Deployment Toolbox.},
author={MMDeploy Contributors},
howpublished = {\url{https://github.com/open-mmlab/mmdeploy}},
year={2021}
}
许可证
此项目基于 Apache 2.0 许可证 进行发布。
OpenMMLab 项目
- MMEngine:OpenMMLab 训练深度学习模型的基础库。
- MMCV:OpenMMLab 计算机视觉基础库。
- MMPretrain:OpenMMLab 预训练工具箱和基准。
- MMagic:OpenMMLab 高级生成和智能创作工具箱。
- MMDetection:OpenMMLab 目标检测工具箱和基准。
- MMDetection3D:OpenMMLab 3D 目标检测平台。
- MMYOLO:OpenMMLab YOLO 系列工具箱和基准。
- MMRotate:OpenMMLab 旋转目标检测工具箱和基准。
- MMTracking:OpenMMLab 视频感知工具箱和基准。
- MMSegmentation:OpenMMLab 语义分割工具箱和基准。
- MMOCR:OpenMMLab 文本检测、识别和理解工具箱。
- MMPose:OpenMMLab 姿态估计工具箱和基准。
- MMHuman3D:OpenMMLab 3D 人体参数化模型工具箱和基准。
- MMFewShot:OpenMMLab 少量样本学习工具箱和基准。
- MMAction2:OpenMMLab 行为理解工具箱和基准。
- MMFlow:OpenMMLab 光流工具箱和基准。
- MMDeploy:OpenMMLab 模型部署框架。
- MMRazor:OpenMMLab 模型压缩工具箱和基准。
- MIM:MIM 安装 OpenMMLab 软件包。
- Playground:一个聚集和展示基于 OpenMMLab 构建的惊人项目的中心。