#Kubernetes

k8sgpt

k8sgpt是一个专为Kubernetes集群设计的AI工具，能够扫描、诊断和排查问题，并提供深度分析。整合了SRE经验，k8sgpt可以提取最相关的信息并进行AI解释，支持OpenAI、Azure、Cohere等多种AI提供商和本地模型。该工具支持多种安装方式，包括brew、rpm和deb，适用于Linux、Mac和Windows系统。其集成模式适合集群持续监控，可与Prometheus和Alertmanager等系统无缝结合。

pai

OpenPAI是一个共享AI计算资源的开源平台，支持本地、混合和公共云部署，兼容多种AI框架和硬件。平台通过模块化设计和用户友好的体验，提供从训练到部署的完整解决方案，适合深度学习任务。OpenPAI支持分布式训练、虚拟集群管理，并提供丰富的扩展和定制功能。

kong

Kong API Gateway是一个云原生、平台无关的API网关，以其高性能和通过插件进行扩展的能力而著称。支持代理、路由、负载均衡、健康检查、鉴权等功能，使其成为微服务或传统API流量的中心协调层。此外，Kong在Kubernetes上原生运行，提供官方的Kubernetes Ingress Controller。

sqlflow

SQLFlow 是一款编译器，它将SQL程序编译成在Kubernetes上运行的工作流，支持包括机器学习训练、预测、模型评估等在内的AI作业。此平台支持MySQL、TiDB、Hive等多种数据库系统，以及TensorFlow、Keras、XGBoost等机器学习工具包。SQLFlow 致力于通过SQL增强机器学习模型开发，让拥有SQL技能的工程师也能轻松开发高级机器学习应用。

training-operator

Kubeflow Training Operator是一个Kubernetes原生工具，支持PyTorch、TensorFlow等多种框架的分布式训练。用户可以通过Kubernetes自定义资源API或Python SDK轻松部署和管理大规模机器学习模型的训练任务。项目还提供全面的监控设计和社区支持，是优化模型训练流程的理想工具。

kubectl-ai

kubectl-ai，一款集成了OpenAI GPT的Kubectl插件，能够自动创建和应用Kubernetes配置。它简化了配置的管理，支持Azure OpenAI、本地API等多种配置环境，提升部署的灵活性与准确度。

langstream

LangStream开源项目提供多功能开发工具和示例应用，通过CLI或Kubernetes集群运行和部署。提供多种安装方式及详细文档和支持，适用于MacOS和Unix系统。项目集成OpenAI，用户能快速创建和管理应用。支持通过Helm图表进行生产级部署，并兼容EKS、AKS、GKE等主流云服务提供商的Kubernetes集群，同时提供minikube本地部署解决方案，用于快速测试和开发。

aikit

AIKit是一个全方位平台，专为快速部署、构建和微调大型语言模型（LLM）而设计。它支持OpenAI API兼容的推理和灵活的微调接口，无需GPU即可使用。AIKit还支持多模式模型、图像生成、多平台CPU和GPU加速推理以及Kubernetes部署，简化了开发流程并确保供应链安全，适用于各种环境。

kubesphere

KubeSphere是以Kubernetes为核心的分布式操作系统，支持多云、多集群和边缘计算的统一管理。其插拔式架构允许无缝集成第三方应用，提供全栈自动化运维和DevOps工作流。平台具备直观的Web UI，帮助企业构建功能丰富的多租户容器平台，覆盖Kubernetes多集群管理、云原生可观测性、服务网格和边缘计算等关键功能。最新的v3.4.0版本进一步提升了用户体验，并带来了多项功能更新。