#机学习模型部署

kserve

KServe 提供 Kubernetes 自定义资源定义，支持多种机器学习框架，使用标准化推理协议进行预测和生成模型服务。它简化了自动扩展、网络配置和健康检查的复杂性，支持 GPU 自动扩展、零容量和金丝雀部署等高级功能，适用于生产级的机器学习服务，涵盖预处理、后处理和可解释性。更多信息请访问官网。