Project Icon

sparkling-water

Apache Spark与H2O-3的机器学习集成框架

Sparkling Water是一个开源项目,将H2O-3机器学习引擎与Apache Spark集成。它提供了Spark和H2O数据结构间的转换工具,支持使用Spark数据作为H2O算法输入,并提供构建机器学习应用的基础模块。项目还包含PySparkling接口,支持从PySpark直接使用。Sparkling Water支持Spark Shell集成、Spark Submit应用、以及通过Maven包使用。它提供多种后端部署模式,适应不同使用场景。项目致力于简化大规模数据处理和机器学习任务的开发流程,在Spark环境中优化机器学习解决方案的开发和部署过程。

batch-processing-gateway - 简化Spark在Kubernetes上的部署和管理
Batch Processing GatewayGithubKubernetesREST APIS3Spark开源项目
Batch Processing Gateway是一个开源项目,旨在简化Spark在Kubernetes环境中的运行。通过提供直观的API接口,用户可以轻松提交、检查和删除Spark应用,而无需深入了解底层细节。该项目支持多Spark集群配置,实现水平扩展,并提供基于队列和权重的智能路由机制。此外,它还具备应用日志管理和用户授权等功能,适用于构建和管理大规模Spark服务。
delight - 优化Spark应用性能的开源分析工具
DelightGithubSpark History ServerSpark UI大数据分析开源项目性能优化
Delight是一款开源的Spark应用性能分析工具,为Spark UI和History Server提供替代方案。它适用于各种Spark平台,通过直观的界面展示执行器CPU使用情况和内存峰值等关键指标。Delight集成了Spark History Server功能,简化了Spark UI的访问过程。该工具使用开源agent收集Spark事件,并在应用完成后在托管仪表板上呈现详细分析结果,助力开发者优化Spark应用性能。
TransmogrifAI - 自动化机器学习工作流
Apache SparkAutoMLGithubSalesforceScalaTransmogrifAI开源项目
TransmogrifAI是一个基于Apache Spark的自动化机器学习库,使用Scala编写,旨在提高开发效率。它提供类型安全、模块化和可重用的API,使用户能快速构建生产级机器学习应用,无需深厚的机器学习知识。该库显著减少模型调优时间,同时实现高精度。
petastorm - 开源数据访问库,支持单机或分布式训练和评估深度学习模型,直接从Apache Parquet格式数据集中读取数据
Apache ParquetGithubPetastorm分布式训练开源项目机器学习框架深度学习
Petastorm是一个开源数据访问库,支持单机或分布式训练和评估深度学习模型,直接从Apache Parquet格式数据集中读取数据。该库兼容Tensorflow、PyTorch和PySpark等主流Python机器学习框架,也可用于纯Python代码。Petastorm支持多种数据压缩格式,提供方便的API用于数据生成和读取,并支持列选择、并行读取、行过滤等功能。用户可以轻松在单机或Spark集群上生成数据集,是构建高效机器学习管道的理想工具。
hop - 开源数据和元数据编排平台
Apache HopGithubJava开源软件开源项目数据处理数据编排平台
Apache Hop是一个开源的数据和元数据编排平台,致力于简化数据处理任务。该平台提供直观界面和丰富功能,包括数据转换、工作流编排和元数据管理。Hop支持多种数据源和插件,适用于数据集成和ETL场景。项目由活跃的社区维护,持续进行开发和改进。
SynapseML - 简化大规模机器学习管道的开源工具
Apache SparkGithubSynapseML开源项目异常检测文本分析机器学习
SynapseML是一个开源库,旨在简化大规模机器学习管道的创建。它提供简单、可组合和分布式的API,支持文本分析、视觉处理、异常检测等多种任务。基于Apache Spark,SynapseML与SparkML/MLLib共享相同的API,能够无缝集成到现有的Spark工作流中。该库支持Python、R、Scala、Java和.NET,适用于各种数据库和云数据存储,助力构建智能系统。
WeDataSphere - 综合开源大数据开发和管理平台
GithubWeDataSphere大数据平台开源组件开源项目数据应用开发计算中间件
WeDataSphere是一个综合性开源大数据平台,提供从数据处理到应用开发的全套解决方案。它整合了多个开源组件,支持跨引擎协作和统一管理,满足企业在数据分析、质量控制和机器学习等方面的需求,同时保证高级别的安全性和多租户隔离。
flink-ml - Apache Flink ML,简化机器学习流水线构建的开源库
APIApache FlinkFlink MLGithub开源项目机器学习流处理
Flink ML是Apache Flink旗下的开源机器学习库,旨在简化ML流水线的构建过程。它提供标准化的机器学习API和基础设施,支持算法实现、训练和推理流水线的构建。该库提供Python和Java接口,具备快速入门指南、项目构建工具和性能基准测试功能。Flink ML作为社区驱动的项目,欢迎开发者参与贡献。
H2O - 提升大型语言模型推理效率的关键token识别技术
GithubH2OKV缓存大语言模型开源项目推理效率注意力机制
H2O项目提出了一种创新的KV缓存实现方法,通过识别对注意力分数贡献最大的少数token,显著减少了大型语言模型推理的内存占用。该项目引入了Heavy Hitter Oracle (H2O)作为KV缓存淘汰策略,在多个任务中验证了其准确性。在OPT-6.7B和OPT-30B模型上,H2O显著提高了推理吞吐量并减少了延迟,为大型语言模型的高效推理提供了新的解决方案。
awesome-datascience - 一个综合的数据科学学习和应用平台
Data ScienceGithubPythonR语言开源项目数据分析机器学习
此开源项目提供了一个综合的数据科学学习和应用平台,适合初学者和专业人士。包括算法、课程、教程及工具等内容,旨在帮助用户通过数据科学技术解决现实问题。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

稿定AI

稿定设计 是一个多功能的在线设计和创意平台,提供广泛的设计工具和资源,以满足不同用户的需求。从专业的图形设计师到普通用户,无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑,稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合,帮助用户轻松实现创意设计。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号