pytriton
PyTriton是一款类似Flask/FastAPI的框架，旨在优化NVIDIA Triton推理服务器在Python环境中的应用。该框架支持直接从Python部署机器学习模型，具有原生Python支持、框架无关性和性能优化等特点。通过简洁的接口，PyTriton简化了模型部署、性能优化和API开发过程。不论使用PyTorch、TensorFlow还是JAX，开发者均可将Python代码轻松转换为HTTP/gRPC API。
