sparkling-water

Apache Spark与H2O-3的机器学习集成框架

Sparkling Water 机器学习 Apache Spark 数据集成 H2O-3 Github 开源项目

Sparkling Water是一个开源项目,将H2O-3机器学习引擎与Apache Spark集成。它提供了Spark和H2O数据结构间的转换工具,支持使用Spark数据作为H2O算法输入,并提供构建机器学习应用的基础模块。项目还包含PySparkling接口,支持从PySpark直接使用。Sparkling Water支持Spark Shell集成、Spark Submit应用、以及通过Maven包使用。它提供多种后端部署模式,适应不同使用场景。项目致力于简化大规模数据处理和机器学习任务的开发流程,在Spark环境中优化机器学习解决方案的开发和部署过程。

访问官网

Github

Huggingface

介绍相关项目

spiceai - 便携式运行时实现多源数据统一SQL查询与加速

GithubSQL接口Spice.ai开源项目数据加速数据查询数据连接器

Spice是一个便携式运行时，通过统一SQL接口实现数据库、数据仓库和数据湖的数据物化、加速和查询。它充当优化的数据库CDN，高效传输数据至应用程序、机器学习模型和AI后端。Spice使用Rust开发，集成Apache DataFusion和Arrow等技术，提供多种数据连接器和加速器，支持从边缘到云端的广泛部署。

datahub - 现代数据栈的开源元数据管理平台

DataHubGithub元数据管理开源项目数据发现平台数据目录

DataHub是一款开源数据目录平台,为现代数据栈提供全面的元数据管理。它支持数据发现、治理、血缘分析,集成多种数据源,并具备实时更新能力。DataHub采用灵活的元数据模型,支持GraphQL API,易于扩展和集成。通过提升数据资产的可见性和可用性,DataHub为数据团队创造价值。

Awesome-System-for-Machine-Learning - 机器学习系统研究资源汇总

AI系统GithubMachine Learning分布式计算大数据开源项目自动化机器学习

此项目汇集了机器学习系统研究的丰富资源，包括数据处理、训练系统和推理系统的开源代码与论文。项目由专门团队维护并定期更新，提供书籍、视频、课程和博客等学习材料，还推荐多篇系统设计的必读白皮书和研究论文，适合各个学习阶段。

h2o-wizardlm - 为自监督学习模型生成高复杂度指令的开源实现，助力LLM微调

ChatGPT克隆GithubLLMwizardlm开源项目指令微调自动生成

H2o-wizardlm是一个开源项目，旨在从现有指令微调的LLM模型中自动生成高复杂度指令，适用于进一步微调。该项目基于Apache 2.0许可的模型和数据，支持输入指令微调的LLM和种子提示（未来支持文档语料库），输出为高复杂度的指令提示及其响应，无需违反Vicuna或ShareGPT的服务条款。

incubator-devlake - 整合分析开发工具数据的开源平台

Apache DevLakeDevOpsGithub开源开源项目数据平台软件开发

Apache DevLake是一个开源开发数据平台，整合并分析来自DevOps工具的分散数据。该平台为工程管理、开源项目维护和开发团队提供软件开发生命周期的全面视图，支持DORA等指标框架，并配备预置仪表板。DevLake可扩展性强，支持GitHub、GitLab和Jira等多种开发工具，有助于团队实现基于数据的工程优化。

sematic - 开源的机器学习平台，支持ML工程师和数据科学家使用Python编写并运行复杂的端到端流水线

GithubKubernetesPythonSematic开源开源项目机器学习

Sematic是一个开源的机器学习平台，支持ML工程师和数据科学家使用Python编写并运行复杂的端到端流水线。无论在本地计算机、云虚拟机还是Kubernetes集群上执行，Sematic都可以高效利用云资源。它具有易于上手、端到端可追溯性、本地与云一致性和高可重复性等特点，可在无需部署或额外基础设施的情况下开始使用，所有流水线步骤都可以在web仪表盘上监控和可视化，适用于优化不同计算资源。

hyperopt - Python库Hyperopt助力机器学习超参数优化

GithubHyperoptPython库分布式计算开源项目机器学习超参数优化

Hyperopt是一个强大的Python库，专门用于复杂搜索空间中的超参数优化。它支持实值、离散和条件维度，提供随机搜索、TPE等多种算法。通过Apache Spark和MongoDB实现并行化，Hyperopt能够显著提高机器学习模型的调优效率。作为开源项目，它为机器学习领域提供了高效的超参数优化解决方案，正在被广泛应用于加速模型开发和性能优化。

TonY - 在 Apache Hadoop 上原生运行深度学习框架的框架

GithubHadoopPyTorchTensorFlowTonY开源项目深度学习

TonY框架支持在Apache Hadoop上运行深度学习任务，兼容TensorFlow、PyTorch、MXNet和Horovod。支持分布式或单节点训练，提供灵活可靠的机器学习任务执行方式，适用于Hadoop 2.6.0及以上版本，并支持GPU隔离。项目通过Gradle构建，可通过虚拟环境或Docker容器启动深度学习作业。详细配置和使用案例请参阅官方文档和示例。

spotlight - 快速可视化非结构化数据集的开源工具

GithubRenumics Spotlight开源项目数据分析数据可视化机器学习非结构化数据

Spotlight是一个开源的数据可视化工具，专为快速理解和探索非结构化数据集而设计。它支持图像、音频、文本等多种数据类型，通过简单的代码即可创建交互式可视化。Spotlight能够利用数据增强功能识别关键数据集群，适用于机器学习和工程领域的复杂数据分析任务。这个工具可以帮助团队更有效地分析和沟通非结构化数据问题。

mlflow - 机器学习生命周期管理的轻量级平台

GithubMLflow实验跟踪开源项目机器学习模型管理项目打包

MLflow 是一个轻量级平台，帮助简化机器学习的开发和部署过程。它支持实验跟踪、代码打包和模型部署，并且可以集成 TensorFlow、PyTorch 和 XGBoost 等库。主要组件包括 MLflow Tracking、MLflow Projects、MLflow Models 和 MLflow Model Registry，助力全面管理机器学习生命周期。

相关项目

项目侧边栏1

项目侧边栏2

推荐项目

Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

稿定AI

稿定设计是一个多功能的在线设计和创意平台，提供广泛的设计工具和资源，以满足不同用户的需求。从专业的图形设计师到普通用户，无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑，稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合，帮助用户轻松实现创意设计。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com

@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号