#高规模服务

ModelMesh是一个通用的模型服务管理框架，适用于大规模、高密度和动态变化的模型部署环境。它作为分布式LRU缓存，与各种模型服务器协同工作，优化运行时模型的服务。支持Kubernetes部署，提供自定义资源管理，并能无缝集成多种开源模型服务器。