#Ray
ray
Ray是一个统一的框架，专门用于扩展AI和Python应用。它包含一个核心分布式运行时和一套AI库，用于简化机器学习计算。无论是在单机还是集群上，Ray都能让相同的代码无缝扩展。此外，Ray支持各种机器、云服务提供商和Kubernetes，且拥有日益增长的社区生态系统。此框架易于安装，只需执行简单的命令即可：'pip install ray'。
ray-educational-materials
提供丰富的教育资源，专注于Ray分布式计算框架，帮助扩展Python和机器学习任务，从笔记本电脑到集群处理。课程内容涵盖Ray核心功能、AI运行时、计算机视觉和NLP模型优化等，适合各层次学习者。加入社区，探索文档、参与讨论、提出问题和贡献代码，提升开发体验。
langchain-ray
LangChain和Ray是关键的Python库，用于快速开发和部署大规模语言模型（LLM）应用。项目提供了多种技术示例和用例，包括开源LLM搜索引擎、快速嵌入生成及基于检索的问答系统。通过文档、Slack和论坛与开发者社区互动，共同学习与成长。
llmperf
LLMPerf是一个评估大语言模型API性能的开源工具。它通过负载测试和正确性测试来衡量模型的响应延迟、生成吞吐量和输出准确性。该工具支持OpenAI、Anthropic、TogetherAI等主流LLM API,并可扩展适配新API。LLMPerf采用Ray框架处理并发请求,能够模拟实际负载环境。开发者和研究人员可利用LLMPerf便捷地评估和对比不同LLM API的性能表现。
kuberay
KubeRay是开源的Kubernetes operator，专为简化Ray应用在Kubernetes上的部署和管理而设计。它提供RayCluster、RayJob和RayService三种自定义资源，实现集群生命周期管理、自动扩缩容和容错。KubeRay还包含社区维护的API服务器、Python客户端和命令行工具，提供全面的Ray集群管理功能。适用于机器学习、服务部署和批处理等场景，并与多种云原生生态系统工具集成。
deltacat
DeltaCAT是一个基于Ray的Python数据目录系统，采用类Git的stage/commit API实现快速、可扩展、ACID兼容的数据目录管理。结合Ray分布式计算框架和Apache Arrow，DeltaCAT支持PB级数据变更捕获、一致性检查和表修复。该系统已在EB级企业数据湖中得到应用，为大规模数据管理提供解决方案。
llm-numbers
该项目汇集了LLM开发中的重要数据和见解，包括提示工程、模型训练和GPU内存管理等方面。内容涵盖成本比率、训练费用和GPU内存要求，为开发者提供决策参考和资源优化指导。这些信息有助于快速评估和理解LLM开发的关键因素，是大语言模型开发者的实用参考资料。
Anyscale
Anyscale是基于Ray开源项目的AI应用平台,提供从笔记本到数千GPU的分布式计算能力。支持LLM推理、微调、稳定扩散等AI工作负载,具备性能优化、成本控制和企业级安全功能。开发者可通过Anyscale快速构建和部署各类AI应用。
RLcycle
RLcycle是一个开源的强化学习框架，实现了多种经典算法如DQN、A2C/A3C、DDPG和SAC。框架基于PyTorch构建，集成了Hydra配置管理、Ray并行计算和WandB日志记录功能。RLcycle提供可重用组件便于快速开发，支持Atari和PyBullet等环境，并附有使用指南和性能基准。该项目适合研究人员和开发者学习和实践各类强化学习算法。