ort

使用Rust实现的高性能ONNX Runtime包装器

ONNX Runtime ort Rust 机器学习推理 GPU加速 Github 开源项目

ort 是一个基于 Rust 的非官方 ONNX Runtime 1.18 包装器，能够加速 CPU 和 GPU 上的机器学习推理与训练。提供详细的指导文档、API参考和示例，并支持从 v1.x 迁移到 v2.0。Twitter、Bloop 和 Supabase 等项目均在使用ort。可通过 Discord 或 GitHub 讨论获取支持，欢迎在 Open Collective 上进行赞助。

访问官网

Github

Huggingface

介绍相关项目

openrl - 综合性强化学习平台，支持多任务训练

GithubOpenRLPyTorch多智能体开源项目强化学习自然语言处理

OpenRL 是一款基于 PyTorch 的开源强化学习研究框架，支持单代理、多代理、离线强化学习、自我对弈及自然语言处理任务。框架提供统一接口、训练加速方法和多种深度学习模型支持，兼容 Gymnasium、MuJoCo、StarCraft II 等多种环境。同时，OpenRL 还支持用户自定义训练模型、奖励模型和环境配置，并提供中英文文档。

foundry - Rust编写的高性能以太坊开发工具包

FoundryGithubRust以太坊开发工具开源项目智能合约

Foundry是一个高性能的以太坊开发工具包，包含Forge测试框架、Cast智能合约交互工具、Anvil本地节点和Chisel Solidity REPL。它提供快速编译、Solidity测试、模糊测试和远程RPC分叉等功能，显著提升以太坊开发效率。该工具包由Rust编写，具有便携性和模块化特点。

executorch - 移动和边缘设备上高效运行PyTorch模型的解决方案

ExecuTorchGithubPyTorch开源项目推理能力模型部署边缘设备

ExecuTorch 提供端到端解决方案，实现移动和边缘设备上的推理能力，涵盖穿戴设备、嵌入式设备和微控制器。作为 PyTorch Edge 生态系统的一部分，ExecuTorch 通过轻量级运行时，利用硬件能力（如 CPU、NPU 和 DSP），高效地将 PyTorch 模型部署到多种平台。其主要优势包括：广泛的兼容性、开发效率和出色的用户体验。欲了解更多技术细节和教程，请访问文档网站获取最新版本。

linfa - Rust语言的综合机器学习工具库

GithubLinfaRust开源项目数据处理机器学习算法库

Linfa是一个用Rust语言开发的开源机器学习工具库，为常见ML任务提供全面解决方案。它实现了多种算法，包括聚类、降维、回归和分类等，并具备数据预处理功能。Linfa支持多种BLAS/LAPACK后端，可满足不同性能需求。这个项目旨在为Rust生态系统构建一个活跃的机器学习社区。

lora-rs - Rust语言LoRa终端设备开发框架

GithubLoRaRust嵌入式开源项目无线通信物联网

lora-rs是一个Rust语言实现的LoRa终端设备开发框架,提供了一系列兼容的crate。框架包含LoRa调制特性、无线电驱动、LoRaWAN数据包编解码和设备栈等模块。所有crate均为无标准库设计,适用于嵌入式项目开发。lora-rs支持非阻塞和异步实现,为LoRa设备开发提供了全面的工具支持。

openvino - 提升深度学习模型部署与优化的开源工具包

AI应用GithubOpenVINO开源项目性能提升模型部署深度学习模型优化热门

OpenVINO™是一款开源软件工具包，用于优化和部署深度学习模型。它支持多种框架如TensorFlow、PyTorch等，能在从边缘到云的多种平台上高效部署。此工具包还包含大量社区资源和教程，助力提升计算机视觉、自然语言处理等领域的模型性能。

redox - 微内核架构下的高效Rust操作系统

GithubRedoxRust开源开源项目微内核操作系统

Redox是一个采用Rust语言开发的操作系统，专注于安全性、效率和性能。基于微内核架构，Redox不仅提供核心功能，还包含文件系统、显示管理等完整组件，构建了全面的操作系统生态。系统采用COSMIC桌面环境，支持多种Rust、Linux和BSD程序。目前，Redox正由活跃的开源社区持续开发完善中。

oxen-release - 机器学习数据集的高效版本控制系统

GithubOxen开源项目数据版本控制数据管理机器学习数据集

Oxen是专为机器学习数据集设计的高速版本控制系统，能高效处理大规模结构化和非结构化数据。它提供类似git的界面，优化了大文件和大数据集处理，支持命令行、Rust、Python和HTTP接口。Oxen具备快速索引、易用性、大文件处理、数据帧处理和变更跟踪等特点，为数据科学家和机器学习工程师提供高效的数据管理解决方案。

lorax - 支持在单个GPU上运行数千个微调模型的框架

GithubLoRAX低延迟多模型推理开源项目生产准备高通量

LoRAX框架支持在单个GPU上运行数千个微调模型，有效降低服务成本且不影响吞吐量和延迟。主要特点包括动态适配器加载、异构连续批处理、适配器交换调度和优化推理。LoRAX提供预构建的Docker镜像、Kubernetes Helm图表和Prometheus指标，并兼容OpenAI API，支持多轮聊天对话和私有适配器。免费商用，采用Apache 2.0许可。

相关项目

项目侧边栏1

项目侧边栏2

推荐项目

Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com

@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号