热门
导航
快讯
推荐文章
热门
导航
快讯
推荐文章
#Hidet
Hidet: 开源深度学习编译器助力模型高效部署
2 个月前
Hidet是一款由Python编写的开源深度学习编译器,它支持将PyTorch和ONNX模型端到端编译为高效的CUDA内核,通过一系列图级和算子级优化来提升性能。本文将详细介绍Hidet的特性、使用方法以及在模型推理加速方面的优势。
Hidet
深度学习编译器
CUDA
PyTorch
ONNX
Github
开源项目
2 个月前
相关项目
hidet
Hidet是一个用Python编写的开源深度学习编译器,主要优化NVIDIA GPU上的推理任务。它能将PyTorch和ONNX模型编译成高效的CUDA内核,通过图级和算子级优化提升性能。Hidet易于集成,支持通过torch.compile优化PyTorch模型,为开发者提供了便捷的深度学习性能优化方案。
查看
使用协议
隐私政策
广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI
·
鲁ICP备2024100362号-6
·
鲁公网安备37021002001498号