Daft

Rust实现的分布式数据处理引擎支持多模态分析

Daft是一个Rust实现的分布式查询引擎，为Python提供大规模数据处理能力。它提供交互式API、查询优化、数据目录集成、多模态类型系统和Apache Arrow兼容性。Daft可处理图像、嵌入向量等复杂数据，支持交互式和分布式计算，适用于多种数据分析场景。其云优化设计带来高效I/O性能。

访问官网

文档

perspective - 交互式大规模数据分析与实时可视化工具

GithubPerspective交互式分析开源项目数据分析数据可视化流数据处理

Perspective是一款专为大规模和实时数据集设计的交互式分析与可视化工具。该工具采用C++编写的高效流式查询引擎，支持Apache Arrow格式，并集成了基于ExprTK的列式表达语言。用户可通过Perspective创建自定义报告、仪表板和应用，支持浏览器独立部署或与Python和JupyterLab协同使用。此外，Perspective还提供了跨框架的用户界面组件和JupyterLab插件，为数据分析人员和开发者提供了全面的解决方案。

bacalhau - 高效的分布式计算框架

BacalhauGithub云计算分布式计算安全计算开源项目数据处理

Bacalhau是一个分布式计算平台，可以在数据生成和存储的位置执行任务，从而实现高效、安全的计算。支持Docker容器、WebAssembly (wasm)镜像和任意二进制文件作为任务运行，无需大量重写代码，简化现有工作流程。其特点包括快速作业处理、低成本、安全和大规模数据处理，利用边缘计算的闲置资源减少传输成本，通过精细的权限模型保护数据安全。

data-juicer - 大语言模型数据处理系统，提供多模态数据支持

Data-JuicerGithub多模态数据处理大规模语言模型开源项目数据处理数据模型协同开发

Data-Juicer 是一款强大的一站式数据处理系统，专为大语言模型设计。它支持多模态数据处理，具有80多种操作符和20多个配置方案，提供高效且并行的数据处理能力。其友好的用户体验和全面的文档，使其成为生产环境中的优选方案。

quackpipe - 无服务器OLAP API实现DuckDB与ClickHouse HTTP接口兼容

APIClickHouseDuckDBGithubOLAP云存储开源项目

QuackPipe是基于DuckDB构建的无服务器OLAP API，模拟并兼容ClickHouse的HTTP API。用户可通过熟悉的接口使用DuckDB SQL和云存储，保持现有习惯和集成。该项目支持云存储操作、文件模式、STDIN快速查询和ClickHouse可执行UDF等功能。QuackPipe还提供简洁的在线playground，方便用户尝试示例查询。

awesome-streaming - 全面汇总实时数据流处理框架与资源

Github分布式系统实时处理开源项目数据流流式处理

本项目汇集了实时数据流处理领域的优质资源，涵盖流处理框架、应用、库和工具等。包含Apache Flink、Spark Streaming等知名开源项目，以及IoT和机器学习等领域的专业解决方案。为开发者提供全面参考，便于选择合适的流处理技术。

DeepBI - 多数据源支持的AI数据分析平台，实现数据查询与可视化

DeepBIGithub人工智能多平台支持开源项目数据分析平台数据可视化

DeepBI是一款AI驱动的数据分析平台，利用大语言模型进行数据探索、查询、可视化和共享。平台支持对话获取数据结果，生成持久化查询与可视化，兼容MySQL、PostgreSQL、Doris、StarRocks等多种数据源，并支持Windows、Linux、Mac等操作系统。

deltacat - 基于Ray的分布式数据目录管理系统

DeltaCATGithubRay分布式计算开源项目数据湖数据目录

DeltaCAT是一个基于Ray的Python数据目录系统，采用类Git的stage/commit API实现快速、可扩展、ACID兼容的数据目录管理。结合Ray分布式计算框架和Apache Arrow，DeltaCAT支持PB级数据变更捕获、一致性检查和表修复。该系统已在EB级企业数据湖中得到应用，为大规模数据管理提供解决方案。

lancedb - 高效管理与检索嵌入的开源多模态向量数据库

GPU支持GithubLanceDB多模态数据嵌入管理开源项目矢量搜索

LanceDB 是一款开源的多模态向量数据库，具备持久存储功能，能够简化嵌入的管理与检索。它支持生产级别的向量搜索，无需管理服务器，可存储、查询和过滤向量、元数据以及多模态数据（包括文本、图片、视频、点云等）。它还支持向量相似性搜索、全文搜索和SQL查询，并提供原生的Python和JavaScript/TypeScript支持，同时实现零拷贝和自动版本管理。LanceDB 与 LangChain、LlamaIndex、Apache-Arrow、Pandas、Polars、DuckDB 等多个生态系统集成。其核心由Rust编写，基于Lance构建，专为高性能机器学习工作负载而设计。

deita - 自动数据选择工具助力大语言模型指令调优

DeitaGithub开源项目指令调优数据选择语言模型

Deita是一个开源项目，为大型语言模型的指令调优提供自动数据选择工具。项目包含开源工具包、高质量轻量级数据集和高效训练模型。Deita模型使用仅十分之一的指令调优数据，就能达到其他先进聊天模型的性能水平。项目提供全面评估结果，展示了在多项基准测试中的表现。

rudis - Rust开发的高性能Redis兼容键值存储系统

GithubRedis兼容RudisRust内存数据库开源项目键值存储

Rudis是Rust语言开发的高性能键值存储系统，复现Redis核心功能。特点包括跨平台兼容、支持多种数据结构、RDB和AOF持久化机制，以及Redis API兼容性。Rudis具有快速处理和即时响应能力，适合对性能、可靠性和安全性有高要求的应用场景。支持Docker部署，便于快速部署和使用。

相关项目

推荐项目

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com