GenAIExamples
GenAIExamples是一个专注于生成式AI应用的开源框架,提供简化的部署、测试和扩展功能。该项目兼容Docker和Kubernetes,支持包括Gaudi和Xeon在内的多种硬件平台。框架包含ChatQnA、DocSum等多个应用实例,支持Python、Docker Compose和Kubernetes等多种部署方式。内置的性能评估工具便于比较不同硬件配置的性能表现。