genv
Genv是一个开源的GPU环境和集群管理系统,为数据科学和机器学习团队提供GPU资源的高效管理。它支持GPU共享、远程访问、无代码切换以及本地LLM部署,显著提升团队协作效率。Genv具备GPU使用监控和配额管理功能,适合多人共享GPU资源的场景。通过与Ollama的集成,Genv能在集群中有效运行和管理大型语言模型。