mmdeploy
MMDeploy是一个开源的深度学习模型部署工具,支持OpenMMLab的各类模型库。该工具集成了多种推理后端,兼容Linux、Windows、macOS和Android等操作系统。提供灵活可扩展的C/C++ SDK框架,支持模型转换、配置编写、性能剖析和量化。详尽文档指导简化了模型部署过程,使其更加高效。