ONE

跨平台设备内神经网络推理引擎

ONE 神经网络推理框架设备端AI 开源项目 Samsung Github

ONE (On-device Neural Engine) 是一个开源的高性能神经网络推理框架，专为设备端部署而设计。它能在CPU、GPU、DSP和NPU等多种处理器上执行神经网络模型推理。ONE基于Linux内核，兼容Ubuntu、Tizen和Android等操作系统，并提供统一的编译器工具链，支持TensorFlow、PyTorch等主流框架训练的模型。

访问官网

Github

介绍相关项目

cortex - 适用于多引擎的OpenAI兼容AI引擎平台

AI引擎CortexDockerGithubNVIDIAONNX开源项目

Cortex是一个OpenAI兼容的多引擎AI平台，提供命令行界面和客户端库，支持构建LLM应用。支持的引擎包括GGUF、ONNX和TensorRT-LLM，兼容多种硬件平台。Cortex可作为独立服务器运行或作为库导入，适配MacOS、Windows和Ubuntu操作系统。

only one AI - 全球最大的AI工具导航和目录平台

AI工具内容生成图像处理视频处理音频处理

only one AI收录超过30,000个AI工具,涵盖内容创作、营销、视频制作、编程等领域。提供全面的AI工具目录和比较信息,助力用户提升工作效率和创造力。作为全球最大的AI工具导航平台,汇集2024年度最佳AI解决方案。

TinyNeuralNetwork - 高效易用的深度学习模型压缩框架

GithubTinyNeuralNetwork开源项目模型压缩深度学习神经网络量化训练

TinyNeuralNetwork是一个开源的深度学习模型压缩框架，提供神经架构搜索、剪枝、量化和模型转换等功能。该框架支持计算图捕获、依赖解析、多种剪枝算法、量化感知训练和模型转换，为深度学习模型优化提供全面解决方案。TinyNeuralNetwork已应用于天猫精灵、海尔电视等超过1000万IoT设备，实现AI能力部署。

onnx2c - 为微控制器优化的神经网络部署工具

C编译器GithubONNXonnx2c开源项目微控制器神经网络

onnx2c是一款ONNX到C的编译工具，专门针对微控制器环境进行优化。它将ONNX文件转换为单一C文件，生成的代码不使用动态内存分配，仅需标准C数学库支持。该工具设计简单易用，无需学习曲线，方便开发者将训练好的神经网络快速集成到微控制器项目中。onnx2c提供多种优化功能，包括张量联合、Cast节点移除和实验性量化，有效提升代码性能和内存利用率。

nanodet - 轻量级移动设备实时目标检测模型

GithubNanoDet-Plus实时检测开源项目移动设备轻量级模型高准确率

NanoDet-Plus 是一款超轻量级高精度的无锚目标检测模型，专为移动设备实时检测设计。其模型文件仅有980KB（INT8）或1.8MB（FP16），在ARM CPU上实现97fps检测速度，精度达34.3 mAP@0.5:0.95。NanoDet-Plus 训练友好，GPU内存占用低，支持ncnn、MNN、OpenVINO等多种后端，提供基于ncnn的安卓演示。此模型在COCO数据集上提升了7 mAP，支持多种分辨率和配置，满足不同场景需求。

android-nn-driver - Arm NN驱动，Android神经网络API的开源实现

AndroidArm NNGithubNNAPI开源项目神经网络驱动程序

android-nn-driver是一个开源项目，为Android神经网络API提供Arm NN驱动实现。它支持基于HIDL的android.hardware.neuralnetworks@1.0到1.3版本HAL，适用于Android 11及更早版本。项目提供丰富的操作和配置支持，包括集成指南和FAQ文档。采用MIT许可证，支持社区贡献。值得注意的是，Android 12及以上版本已不再使用HIDL，转而采用AIDL。

nncf - Neural Network Compression Framework：高效神经网络推理压缩算法

GithubNeural Network Compression FrameworkONNXOpenVINOPyTorchTensorFlow开源项目

Neural Network Compression Framework (NNCF) 提供一套后训练和训练时的优化算法，用于在 OpenVINO 中优化神经网络推理，保证最小的精度损失。NNCF 支持 PyTorch、TensorFlow 和 ONNX 等模型，并提供示例展示不同压缩算法的使用案例。NNCF 还支持自动化模型图转换、分布式训练和多种算法的无缝组合，支持将压缩后的 PyTorch 模型导出为 ONNX 检查点及将 TensorFlow 模型导出为 SavedModel 格式。

one - 功能丰富的企业云管理开源解决方案

GithubOpenNebula云计算平台容器化开源项目无服务器计算虚拟化

OpenNebula是一个开源云管理平台，提供功能丰富且灵活的解决方案，用于构建和管理企业云环境。它支持虚拟化服务、容器化应用和无服务器计算，具有易用的界面和强大的管理功能。该平台提供多种学习资源，包括视频教程、白皮书和文档，便于快速上手。OpenNebula适应不同基础设施需求，为企业云管理提供全面支持。

exo - 家用设备组建分布式AI集群实现高性能计算

AI集群Githubexo分布式推理开源项目模型分区设备发现

exo是一个开源项目，用于将日常设备如智能手机、平板和个人电脑整合成家庭AI集群。该项目支持多种模型，包括Llama 3.1，具备动态模型分区和自动设备发现功能。exo采用点对点连接架构，实现设备间平等协作，无需专业GPU即可运行大型AI模型。此外，exo还提供ChatGPT兼容的API接口。

openvino - 提升深度学习模型部署与优化的开源工具包

AI应用GithubOpenVINO开源项目性能提升模型部署深度学习模型优化热门

OpenVINO™是一款开源软件工具包，用于优化和部署深度学习模型。它支持多种框架如TensorFlow、PyTorch等，能在从边缘到云的多种平台上高效部署。此工具包还包含大量社区资源和教程，助力提升计算机视觉、自然语言处理等领域的模型性能。

相关项目

项目侧边栏1

项目侧边栏2

推荐项目

Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com

@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号