Logo
Project Icon

ONE

跨平台设备内神经网络推理引擎

ONE神经网络推理框架设备端AI开源项目SamsungGithub

ONE (On-device Neural Engine) 是一个开源的高性能神经网络推理框架，专为设备端部署而设计。它能在CPU、GPU、DSP和NPU等多种处理器上执行神经网络模型推理。ONE基于Linux内核，兼容Ubuntu、Tizen和Android等操作系统，并提供统一的编译器工具链，支持TensorFlow、PyTorch等主流框架训练的模型。

访问官网访问官网GithubGithub文档文档论文论文
介绍相关项目
opencv-mobile - 优化轻量化的OpenCV库 适配多平台移动与桌面系统
Githubopencv-mobile开源项目移动设备计算机视觉跨平台预构建包
opencv-mobile是OpenCV库的轻量级优化版本,专为移动和嵌入式设备设计。该项目支持Android、iOS、ARM Linux等多种平台,提供2.4、3.4和4.10三个主要版本。通过精简库体积并保留核心功能,使其更适合资源受限环境。opencv-mobile将OpenCV库的体积缩小了90%以上,Android版从292MB减少到17.7MB,iOS版从207MB减少到3.97MB,同时保留了核心计算机视觉功能。所有二进制文件均在GitHub Actions上公开编译,确保代码透明和安全性。
nni - 可自动执行特征工程、神经架构搜索、超参数调优和深度学习的模型压缩
GithubNNI开源项目架构搜索模型压缩神经网络智能优化超参数调整
NNI提供一站式解决方案，支持自动化的特征工程、神经架构搜索、超参数调整和模型压缩。它兼容多种框架，并提供详尽的API、丰富的示例及全面的教程。适用于多种训练环境，包括本地、远程SSH服务器和Kubernetes，帮助推动开源社区的技术发展。
Phi-3-mini-128k-instruct-onnx-tf - 多平台高性能运行的指令微调大语言模型优化版本
AI模型GithubHuggingfaceONNXONNXRuntimePhi-3开源项目模型模型优化
该项目提供Phi-3-mini-128k-instruct模型的ONNX优化版本,支持多种设备和平台高性能推理。模型适配CPU、GPU和移动设备,提供不同精度版本。经指令微调和安全优化,推理能力出色。项目配备ONNX Runtime Generate API,便于开发集成。与PyTorch相比,ONNX版本性能全面提升,FP16 CUDA版本最高提速5倍,INT4 CUDA版本最高提速9倍。
PowerInfer - 消费级GPU上大型语言模型高效推理引擎
GPU加速GithubPowerInfer大语言模型局部性设计开源项目混合CPU/GPU使用
PowerInfer是一款在个人电脑上针对消费级GPU设计的高效大型语言模型(LLM)推理引擎。它结合激活局部性原理和CPU/GPU混合技术，通过优化热/冷激活神经元的处理方式，显著提高推理速度并降低资源消耗。软件还融入了适应性预测器和神经元感知技术，优化了推理效率和精度，支持快速、低延迟的本地模型部署。
TensorRT - 优化深度学习推理的开源平台
CUDADockerGithubNVIDIAONNXTensorRT开源项目
NVIDIA TensorRT 开源软件提供插件和 ONNX 解析器的源码，展示 TensorRT 平台功能的示例应用。这些组件是 TensorRT GA 版本的一部分，并包含扩展和修复。用户可以轻松安装 TensorRT Python 包或根据构建指南编译。企业用户可使用 NVIDIA AI Enterprise 套件，并可加入 TensorRT 社区获取最新产品更新和最佳实践。
onediff - 扩散模型加速库
ComfyUIGPU加速GithubHF diffusersPyTorchonediff开源项目
onediff提供开箱即用的扩散模型加速库，支持HF diffusers和ComfyUI。具备PyTorch代码编译及优化GPU内核，提升速度可达1.7倍。支持SD、SVD、LoRA等算法，兼容多种NVIDIA GPU。网站提供详细的安装与使用指南、性能对比及质量评估，适用于生产环境。了解更多关于onediff的加速方法和最新更新，以及详细的架构与功能特点。
dlprimitives - 开源跨平台深度学习与推理工具库
GPUGithubONNXOpenCL开源项目深度学习跨平台
DLPrimitives是一个开源项目，旨在提供跨平台的OpenCL深度学习和推理工具。该项目创建了支持多种GPU架构的深度学习原语库和高效推理库。DLPrimitives的目标包括开发简约的深度学习框架，并与PyTorch、TensorFlow等主流框架集成，使OpenCL API在深度学习领域得到广泛应用。目前，DLPrimitives已支持多种神经网络模型，并在AMD、Intel、NVIDIA等多种GPU上进行了测试。
oneAPI-samples - Intel oneAPI工具包示例库
GithubInteloneAPI工具包开源项目样例高搜索量
探索Intel oneAPI工具包示例库，涵盖CPU、GPU和FPGA的多种编程示例。通过oneAPI示例目录便捷查找和获取代码，从入门到高级教程应有尽有，支持多种编程语言和目标设备。包含针对AI和图像渲染的示例，以及各操作系统的使用指南。发现更多资源和最佳实践，提升开发效率。
espnet_onnx - 轻量级语音识别和合成库 基于ONNX格式优化
GithubONNXespnet_onnx开源项目模型导出语音合成语音识别
espnet_onnx是一个将ESPnet模型导出为ONNX格式的实用库，支持语音识别和语音合成任务。该库提供简洁的API接口，便于模型导出和推理。通过ONNX Runtime实现高效的CPU和GPU计算，并支持流式语音识别。用户可从预训练或自定义模型中轻松导出，并进行优化和量化以提升性能。无需PyTorch依赖，适合轻量级部署。
ComputeLibrary - 优化Arm架构的开源机器学习函数库
ARM架构Compute LibraryGithub开源软件开源项目性能优化机器学习
ComputeLibrary是一个专为Arm架构优化的机器学习函数库，支持Cortex-A、Neoverse处理器和Mali GPU。它提供100多个低级机器学习函数，覆盖多种数据类型和卷积算法，并采用微架构优化、内核融合等先进技术。作为开源项目，ComputeLibrary具有高性能、高度可配置的特点，为Arm平台的机器学习应用开发提供了强大支持。
相关项目
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号