optimum-intel
Optimum Intel接口将Hugging Face的Transformers和Diffusers库与Intel的工具相结合,优化PyTorch模型性能。支持Intel Neural Compressor的量化和剪枝技术,OpenVINO的高性能推理以及Intel Extension for PyTorch的操作融合和图优化。Optimum Intel提供简单直观的接口和丰富示例,便于在Intel硬件上部署高效模型。