Logo
Project Icon

petastorm

开源数据访问库，支持单机或分布式训练和评估深度学习模型，直接从Apache Parquet格式数据集中读取数据

Petastorm深度学习分布式训练Apache Parquet机器学习框架Github开源项目

Petastorm是一个开源数据访问库，支持单机或分布式训练和评估深度学习模型，直接从Apache Parquet格式数据集中读取数据。该库兼容Tensorflow、PyTorch和PySpark等主流Python机器学习框架，也可用于纯Python代码。Petastorm支持多种数据压缩格式，提供方便的API用于数据生成和读取，并支持列选择、并行读取、行过滤等功能。用户可以轻松在单机或Spark集群上生成数据集，是构建高效机器学习管道的理想工具。

访问官网访问官网GithubGithub文档文档论文论文
介绍相关项目
DeepSpeed - 大模型的训练工具
AI工具AI开发AI系统技术DeepSpeed大规模训练模型压缩模型训练热门高性能计算
DeepSpeed是一个先进的深度学习优化工具库，专门设计用于简化和增强分布式训练。通过一系列创新技术，如ZeRO、3D并行处理、MoE和ZeRO-Infinity，DeepSpeed能大幅提高训练速度，同时降低成本。这些技术支持在数千GPU上扩展模型训练，并实现低延迟和高吞吐量的推理性能。DeepSpeed同时提供了先进的模型压缩技术，优化模型存储与推理效率，是大规模AI模型训练和推理的优选方案。
kaskada - 开源事件处理引擎 简化时序数据分析
GithubKaskada事件处理开源项目时间序列查询语言流处理
Kaskada是开源统一事件处理引擎，提供高级声明式查询语言，支持批量和实时事件分析。基于SQL优化设计，具备状态聚合、自动连接和事件窗口等功能，简化复杂时序数据处理。采用Rust语言和Apache Arrow技术，高效执行各类分析任务。
sparkling-water - Apache Spark与H2O-3的机器学习集成框架
Apache SparkGithubH2O-3Sparkling Water开源项目数据集成机器学习
Sparkling Water是一个开源项目,将H2O-3机器学习引擎与Apache Spark集成。它提供了Spark和H2O数据结构间的转换工具,支持使用Spark数据作为H2O算法输入,并提供构建机器学习应用的基础模块。项目还包含PySparkling接口,支持从PySpark直接使用。Sparkling Water支持Spark Shell集成、Spark Submit应用、以及通过Maven包使用。它提供多种后端部署模式,适应不同使用场景。项目致力于简化大规模数据处理和机器学习任务的开发流程,在Spark环境中优化机器学习解决方案的开发和部署过程。
meerkat - 专为可视化、探索和注释各类数据集而设计的开源Python库
GithubMeerkat开源库开源项目数据可视化未结构化数据机器学习模型
Meerkat是一个开源的Python库，专为可视化、探索和注释各类数据集而设计，特别适合处理非结构化数据类型（如文本、PDF、图像和视频）。Meerkat支持与Pandas、Arrow和HF Datasets无缝整合，无需数据移动。用户能够使用简洁的Python代码嵌入机器学习模型，实现搜索、分组和自动完成等功能。借助Meerkat的高度定制化可视化组件，适用于探索性数据分析和快速验证数据标注等多种应用场景。
awesome-opensource-data-engineering - 全面的数据工程开源项目资源库
Github开源开源项目数据分析数据处理数据工程数据管理
该资源库汇集了数据工程领域的开源项目，覆盖数据分析、业务智能、数据湖和数据治理等方面。包含Apache Spark、Flink等分析工具，Debezium、Kafka等数据捕获和消息系统，以及各种数据格式、集成工具和工作流管理系统。为数据工程实践提供了全面的开源解决方案参考。
dstack - 轻量级AI模型管理工具，兼容Kubernetes与主流云服务
AI模型管理GithubGoogle Cloud TPUNVIDIA GPUdstack云提供商开源项目
dstack是一款轻量级工具，专为AI模型的开发、训练和部署而设计，可以作为Kubernetes的替代品。支持NVIDIA GPU和Google Cloud TPU，并兼容多种云服务提供商（如AWS、GCP、Azure等）和本地集群。dstack使用简单，无论是在云端还是本地，都能轻松配置和管理集群。其最新版本不断更新，提供高效便捷的体验。
perspective - 交互式大规模数据分析与实时可视化工具
GithubPerspective交互式分析开源项目数据分析数据可视化流数据处理
Perspective是一款专为大规模和实时数据集设计的交互式分析与可视化工具。该工具采用C++编写的高效流式查询引擎，支持Apache Arrow格式，并集成了基于ExprTK的列式表达语言。用户可通过Perspective创建自定义报告、仪表板和应用，支持浏览器独立部署或与Python和JupyterLab协同使用。此外，Perspective还提供了跨框架的用户界面组件和JupyterLab插件，为数据分析人员和开发者提供了全面的解决方案。
stargate - 灵活可扩展的数据库API网关
APICassandraGithubStargate开源项目微服务架构数据网关
Stargate是一个创新的数据网关，部署于客户端应用和Cassandra数据库之间。它通过可扩展的插件系统支持多种API、数据类型和访问方法，简化了Cassandra在各类应用场景中的使用。采用微服务架构的Stargate允许独立扩展Cassandra集群中的存储、API和协调器节点。支持HTTP API、gRPC和CQL等多种接口，Stargate为开发者提供了灵活而强大的数据访问方案。
catboost - 梯度提升和分类特征支持的机器学习工具
Apache SparkCatBoostGithub决策树开源项目机器学习梯度提升
CatBoost是一种基于决策树的梯度提升算法，具有高准确性和速度优势，能够处理数值和分类特征。它提供快速的GPU训练、直观的可视化工具和与Apache Spark的分布式训练支持，适用于多种应用场景。通过官方文档和教程，用户可以快速上手，并通过参数调优和交叉验证进一步优化模型性能。
feathr - 企业级统一数据和AI工程开源平台
AI模型FeathrGithub开源项目数据处理特征工程平台
Feathr是LinkedIn开源的数据和AI工程平台，经过多年生产环境验证。该平台支持数据转换的定义、注册和共享，尤其适合AI建模场景。Feathr采用原生云集成和可扩展架构，提供丰富的转换API，能够处理大规模数据，并在离线批处理、流处理和在线环境中保持统一的数据转换接口。
相关项目
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号