ncnn

移动端神经网络推理框架

ncnn 神经网络移动平台腾讯深度学习 Github 开源项目

ncnn 是一个专为移动端设计，无第三方依赖的开源神经网络推理框架。它支持跨平台功能，低内存占用及在手机CPU上的高速运算能力。利用 ncnn，开发者能够迅速在移动应用中部署深度学习模型，加入智能化功能。该框架已在众多应用程序中使用，如QQ和微信。同时，ncnn 支持 Vulkan API，优化了GPU加速功能，致使在移动设备上表现卓越。

访问官网

Github

介绍相关项目

FaceONNX - 跨平台人脸识别与分析库

GithubONNX人脸分析人脸识别开源项目深度神经网络跨平台

FaceONNX是基于ONNX运行时的人脸识别和分析库。它提供预训练的深度神经网络模型，用于人脸检测、特征点提取、性别年龄分类、情绪美貌分析及人脸嵌入比较。支持跨平台应用，提供.NET Standard 2.0版本，可通过NuGet包管理器集成。FaceONNX为开发者提供了实用的人脸分析工具。

channel-pruning - 通道剪枝技术加速深度神经网络

Channel PruningGithub开源项目模型压缩深度学习神经网络加速计算机视觉

Channel Pruning 项目开发了一种通道剪枝技术，用于加速深度神经网络。该技术显著提高了 VGG-16、ResNet-50 等模型的推理速度，同时保持了较高准确率。项目还包含针对 Faster R-CNN 的剪枝方法，为计算机视觉任务提供了高效解决方案。具体实现了 VGG-16 模型 4 倍和 5 倍的加速，ResNet-50 模型 2 倍加速，以及 Faster R-CNN 2 倍和 4 倍加速。这些优化后的模型在 ImageNet 分类和目标检测任务上仍保持了较高性能。项目提供了代码和预训练模型，方便研究者复现实验结果。

ml-cvnets - 灵活的计算机视觉模型训练库

CVNetsGithub图像分类对象检测开源项目模型训练计算机视觉

CVNets是一个计算机视觉库，支持研究人员和工程师训练和评估多种计算机视觉模型，包括对象分类、对象检测和语义分割等任务。最新版本引入了直接处理文件字节的Transformer和高效在线增强，支持如Mask R-CNN、EfficientNet、Swin Transformer和ViT等模型，并增强了蒸馏功能。

MobileVLM-1.7B - 移动设备优化的高效多模态视觉语言模型

GithubHuggingfaceMobileVLM多模态开源项目性能评估模型模型推理移动设备

MobileVLM-1.7B是一种专为移动设备设计的多模态视觉语言模型，通过多种优化技术实现高效推理，支持跨模态交互。该模型在标准基准测试中表现出色，并经过CLIP方式的预训练。在Qualcomm Snapdragon 888和NVIDIA Jeston Orin设备上的处理速度分别为每秒21.5个和65.3个令牌。

openvino - 提升深度学习模型部署与优化的开源工具包

AI应用GithubOpenVINO开源项目性能提升模型部署深度学习模型优化热门

OpenVINO™是一款开源软件工具包，用于优化和部署深度学习模型。它支持多种框架如TensorFlow、PyTorch等，能在从边缘到云的多种平台上高效部署。此工具包还包含大量社区资源和教程，助力提升计算机视觉、自然语言处理等领域的模型性能。

deepdetect - 用C++11编写的机器学习API和服务器，支持如Caffe、Tensorflow、Pytorch等多种深度学习框架

APIDeepDetectGithub图像分类开源项目机器学习深度学习

DeepDetect是一个用C++11编写的机器学习API和服务器，支持如Caffe、Tensorflow、Pytorch等多种深度学习框架。它专注于易用性和高性能，支持分类、目标检测、分割、回归等任务，适用于图像、文本和时间序列数据。该工具可自动将模型转换为嵌入式平台（如TensorRT、NCNN），无需数据库，所有数据和模型参数均存储在文件系统中。DeepDetect通过JSON格式通信，提供Python和Javascript客户端，易于集成到现有应用中。

cognee - 旨在通过图形、LLMs和向量检索功能，为AI工程师提供精确的输出结果的开源框架

GithubLLMscognee向量检索图数据库开源项目自然语言处理

cognee是一个先进的开源框架，旨在通过图形、LLMs和向量检索功能，为AI工程师提供精确的输出结果。该工具支持自我改进，兼容多种本地配置和存储方案，从而助力AI项目的高效实施和灵活扩展。

bolt - 增强深度学习模型部署的高效轻量级库

BoltGithub华为开源项目推理精度模型转换深度学习

Bolt是一款轻量级深度学习库，旨在提升模型部署效率。它支持Caffe、ONNX、TFLite和Tensorflow的模型转换，提供从FP32到1-BIT的多种推理精度，并适用于ARM和X86 CPU以及多种GPU。该库在华为多个部门广泛应用，具备高性能、丰富的图优化和高效的线程亲和性设置，提升时序数据处理效率。

mobilenetv2_100.ra_in1k - 轻量级CNN模型实现图像分类与特征提取

GithubHuggingfaceImageNet-1kMobileNetV2timm图像分类开源项目模型特征提取

MobileNetV2是为移动和嵌入式视觉应用设计的轻量级卷积神经网络。该模型在ImageNet-1k数据集上训练，采用RandAugment数据增强和EMA权重平均技术。MobileNetV2在低计算复杂度下实现了高效的图像分类和特征提取。通过timm库，开发者可以便捷地加载预训练模型，实现图像分类、特征图提取和图像嵌入等功能。

sparseml - 神经网络优化工具，简化代码实现高效稀疏模型

GithubSparseML开源项目推理优化模型优化神经网络稀疏化

SparseML是开源模型压缩工具包，使用剪枝、量化和蒸馏算法优化推理稀疏模型。可导出到ONNX，并与DeepSparse结合，在CPU上实现GPU级性能。适用于稀疏迁移学习和从零开始的稀疏化，兼容主流NLP和CV模型，如BERT、YOLOv5和ResNet-50，实现推理速度和模型大小的显著优化。

相关项目

项目侧边栏1

项目侧边栏2

推荐项目

Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com

@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号