#移动设备部署

ai-edge-torch

ai-edge-torch是一个开源Python库，用于将PyTorch模型转换为TensorFlow Lite格式。它支持在Android、iOS和IoT设备上本地运行模型，提供广泛的CPU支持和初步的GPU、NPU支持。该项目还包含生成式API，用于优化大型语言模型在设备端的性能。ai-edge-torch与PyTorch紧密集成，为边缘AI开发提供了实用的工具。