#AITemplate
voltaML-fast-stable-diffusion - 使用AITemplate加速的Stable Diffusion WebUI和API
VoltaMLStable DiffusionAITemplateWebUIAPIGithub开源项目
VoltaML-fast-stable-diffusion是一个使用AITemplate加速的Stable Diffusion WebUI和API,提供简洁易用的界面,支持PyTorch和AITemplate推理,兼容Windows和Linux,并提供详细文档。利用Docker轻松部署,拥有积极的社区支持。
AITemplate - 开源高性能深度学习推理框架
AITemplate深度神经网络GPU加速推理服务模型转换Github开源项目
AITemplate是一个开源Python框架,能将深度学习模型转换为CUDA或HIP C++代码,实现高效推理。它支持NVIDIA和AMD GPU,提供接近理论峰值的fp16性能。该框架特点包括独立运行无需第三方库、独特的算子融合技术、与PyTorch兼容以及易于扩展。AITemplate支持ResNet、BERT和Stable Diffusion等多种主流模型。
相关文章