jetson-inference

深度学习部署与实时视觉识别

NVIDIA Jetson TensorRT 深度学习实时视觉 PyTorch Github 开源项目

NVIDIA Jetson设备上的深度学习推理和实时视觉处理库。使用TensorRT优化GPU网络运行，支持C++和Python, 以及PyTorch模型训练。功能包括图像分类、物体检测、语义分割等，适用于多种应用场景，如实时摄像头流和WebRTC网络应用。

ONNX-YOLOv8-Object-Detection - 将YOLOv8模型转换为ONNX格式的方法

GPUGithubONNXYOLOv8开源项目模型转换目标检测

本项目提供了一种将YOLOv8模型转换为ONNX格式的高效方法，支持在NVIDIA GPU或CPU上进行对象检测。确保输入图片尺寸与模型要求一致，以获得最佳检测精度。项目配有详细的安装指南和推理示例，包括图片、摄像头和视频推理，方便开发者快速上手并应用于实际场景。

TNN - 轻量级、高效能、多平台支持的开源深度学习框架

GithubTNN人工智能开源项目性能优化模型转换跨平台

TNN，腾讯优图实验室开源的神经网络推理框架，提供针对移动设备和X86/NV GPUs的高效性能优化。该框架已被QQ、微视等多款应用使用，并支持各大平台包括TensorFlow、Pytorch、MxNet。

nanodet - 轻量级移动设备实时目标检测模型

GithubNanoDet-Plus实时检测开源项目移动设备轻量级模型高准确率

NanoDet-Plus 是一款超轻量级高精度的无锚目标检测模型，专为移动设备实时检测设计。其模型文件仅有980KB（INT8）或1.8MB（FP16），在ARM CPU上实现97fps检测速度，精度达34.3 mAP@0.5:0.95。NanoDet-Plus 训练友好，GPU内存占用低，支持ncnn、MNN、OpenVINO等多种后端，提供基于ncnn的安卓演示。此模型在COCO数据集上提升了7 mAP，支持多种分辨率和配置，满足不同场景需求。

ncnn - 移动端神经网络推理框架

Githubncnn开源项目深度学习神经网络移动平台腾讯

ncnn 是一个专为移动端设计，无第三方依赖的开源神经网络推理框架。它支持跨平台功能，低内存占用及在手机CPU上的高速运算能力。利用 ncnn，开发者能够迅速在移动应用中部署深度学习模型，加入智能化功能。该框架已在众多应用程序中使用，如QQ和微信。同时，ncnn 支持 Vulkan API，优化了GPU加速功能，致使在移动设备上表现卓越。

yolov10x - 高效的实时端到端物体检测工具

GithubHuggingfacePyTorchYOLOv10对象检测开源项目模型深度学习计算机视觉

YOLOv10是一个高效的端到端物体检测开源项目，支持在COCO等数据集上进行准确的训练和验证。通过整合PyTorch模型资源，用户可简便地安装和应用。本项目支持从预训练模型进行迁移学习，适合多种计算机视觉应用需求，是追求速度与精度的理想选择。

RT-DETR - 超越YOLO的实时目标检测算法领域突破

CVPR 2024GithubRT-DETR实时目标检测开源项目深度学习物体识别

RT-DETR是一个开源的实时目标检测算法项目，在性能上超越了YOLO系列。它提供多种模型变体，从轻量级R18到大型X模型，适应不同应用需求。在COCO和Objects365数据集上，RT-DETR展现出卓越性能，最高达到56.2mAP和217FPS。项目同时支持PyTorch和PaddlePaddle框架，便于研究和应用。

FasterTransformer - 基于NVIDIA平台的高性能Transformer编解码器实现与调优

BERTFasterTransformerGPTGithubNVIDIATensorRT-LLM开源项目

FasterTransformer不仅支持多框架集成，还针对NVIDIA新一代GPU优化了编解码性能，极大提升了操作效率和处理速度。包含模型支持、性能对比及API演示的详细文档，有助于用户深入了解并有效使用FasterTransformer。

react-native-fast-tflite - React Native TensorFlow Lite库，支持JSI和GPU加速

GPU DelegateGithubJSIReact NativeTensorFlow LiteVisionCamera开源项目

这是一个高效的React Native TensorFlow Lite库，支持JSI和零拷贝ArrayBuffers，采用低级C/C++ TensorFlow Lite核心API实现直接内存访问，支持运行时模型交换和GPU加速(CoreML/Metal/OpenGL)，并易于集成VisionCamera。该库允许轻松添加和加载TensorFlow Lite模型，支持从本地文件系统或远程URL加载模型，非常适合需要高效且灵活AI推理功能的React Native开发者，在应用中实现先进的计算机视觉和AI功能。

GenerativeAIExamples - 生成式AI示例，快速部署和测试

GithubLangChainNVIDIANeMoRAGTriton开源项目

NVIDIA提供的生成式AI示例，使用CUDA-X软件栈和NVIDIA GPU，展示快速部署、测试和扩展AI模型的方法。包括最新的RAG管道构建技巧、实验性示例和企业应用，支持本地和远程推理，集成流行LLM编程框架，并附有详细开发文档。

PyTorch-Tutorial-2nd - 涵盖深度学习应用与推理部署的知识库

GithubPyTorch大语言模型开源项目深度学习自然语言处理计算机视觉

本书基于PyTorch，系统性涵盖深度学习的核心知识，包括计算机视觉、自然语言处理、大语言模型等实战案例，详解ONNX和TensorRT推理部署框架，为读者提供从基础到应用的完整指导，帮助快速掌握PyTorch并实现项目落地。适合AI自学者、产品经理及跨领域人士阅读。

相关项目

推荐项目

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com