extension-cpp

PyTorch自定义C++/CUDA运算符扩展示例

PyTorch C++扩展 CUDA扩展自定义操作性能优化 Github 开源项目

extension-cpp项目演示了为PyTorch开发C++/CUDA扩展的方法，包括实现自定义CPU和CUDA内核的mymuladd运算符。项目提供构建和测试指南，以及Python、C++和CUDA版本的性能对比。适用于PyTorch 2.4+，是学习PyTorch扩展开发的实践示例。

Github

文档

介绍相关项目

a-PyTorch-Tutorial-to-Object-Detection - PyTorch物体检测模型教程与实现

GithubPyTorch单发多框检测卷积神经网络多尺度特征图对象检测开源项目

本教程详细指导如何使用PyTorch实现物体检测模型，包括模型构建、训练、评估和推理等环节。采用高效的单次多框检测（SSD）算法，介绍多尺度特征图、先验框和非极大值抑制等关键概念。适合具备PyTorch和卷积神经网络基础的学习者，教程提供中文翻译版便于理解和应用。

awesome-modern-cpp - 助力开发者掌握现代C++的综合资源集锦

C++Github学习资料开源库开源项目现代C++编程资源

awesome-modern-cpp项目是一个综合性的现代C++资源集合。它包含了书籍、社区、讲座、博客和网站等多样化内容，涵盖C++11及更新标准的特性。该项目还收录了项目模板、测试框架、基准测试工具、日志库、并发编程库以及解析与序列化库等实用资源，为C++开发者提供全面的学习参考。

tt-metal - Python与C++神经网络运算库

GithubGrayskull模组TT-MetaliumTT-NNWormhole模组开源项目神经网络

TT-NN 提供灵活的神经网络运算功能，支持包括ResNet-50和BERT-Large在内的多种模型，能够实现高效的端到端和设备间的数据吞吐量。其兼容N150和N300卡的Wormhole模型，及适用于TT-QuietBox和TT-LoudBox的高性能模型，能满足不同硬件需求。结合TT-Metalium低级编程模型，提供丰富的开发指导和API参考，有助于在Tenstorrent硬件上高效地进行神经网络训练和推理。

multimodal - PyTorch多模态模型开发框架

GithubPyTorchTorchMultimodal多模态模型开源项目机器学习深度学习

TorchMultimodal是基于PyTorch的多模态模型开发框架，提供模块化构建块和预训练模型，支持ALBEF、BLIP-2、CLIP等多种架构。该框架包含训练、微调和评估示例，可用于构建内容理解和生成模型。TorchMultimodal整合了PyTorch生态系统，便于研究人员复现和开发先进的多模态多任务模型。

pytorch-CycleGAN-and-pix2pix - PyTorch中的高效CycleGAN和pix2pix图像翻译

CycleGANGithubPyTorchpix2pix图像翻译开源项目神经网络

该项目提供了PyTorch框架下的CycleGAN和pix2pix图像翻译实现，支持配对和无配对的图像翻译。最新版本引入img2img-turbo和StableDiffusion-Turbo模型，提高了训练和推理效率。项目页面包含详细的安装指南、训练和测试步骤，以及常见问题解答。适用于Linux和macOS系统，兼容最新的PyTorch版本，并提供Docker和Colab支持，便于快速上手。

TensorRT - 提升PyTorch推理效率的工具

CUDAGithubPyTorchTensorRTTorch-TensorRT安装开源项目

Torch-TensorRT将TensorRT的强大功能引入PyTorch，用户仅需一行代码即可显著提升推理性能。该工具支持在多个平台上安装，包括PyPI和NVIDIA NGC PyTorch容器。通过torch.compile或导出式工作流，用户可以高效优化和部署模型。Torch-TensorRT依赖CUDA和TensorRT，与Linux和Windows等多种平台兼容。提供丰富资源，包括教程、工具和技术讲座，供用户学习使用。

llama_cpp-rs - Rust绑定库实现GGUF大语言模型CPU运行

CPU运行GGUFGithubRust绑定llama_cpp-rs大语言模型开源项目

llama_cpp-rs是一个Rust绑定库，用于在CPU上运行GGUF大语言模型。它提供简洁的API，支持快速模型加载和文本生成。该项目兼容CUDA、Vulkan等后端，并包含内存预测功能。llama_cpp-rs简化了大语言模型的使用流程，适合各层级开发者。

lightning-bolts - PyTorch Lightning的深度学习组件扩展

BoltsDeepSparseGithubPyTorch LightningSparseMLTorch ORT开源项目

Lightning Bolts为PyTorch Lightning提供了多种扩展组件，包括回调和数据集，旨在加速训练和推理。它支持通过Torch ORT将模型转换为优化的ONNX图，以实现GPU加速训练；并通过SparseML在微调中引入稀疏性，提高推理性能。项目支持广泛的问题解决，并欢迎用户贡献通用组件。了解更多安装和使用信息，请访问官方文档和社区支持平台。

TensorRT_Tutorial - 深度学习推理加速实践指南

GPU加速GithubINT8量化TensorRT开源项目性能优化深度学习

TensorRT_Tutorial项目是一个综合性资源库，提供NVIDIA TensorRT深度学习推理加速的实用指南。项目包含中文文档翻译、视频教程、博客文章和代码示例，覆盖TensorRT的基础使用和高级优化。内容涉及核心功能介绍、实际应用经验和优化技巧，为深度学习从业者提升模型推理性能提供了宝贵参考。

llm.c - 纯C和CUDA实现的高效轻量级语言模型训练框架

CUDAC语言GPU训练GithubLLM开源项目

llm.c是一个使用纯C和CUDA实现的高效轻量级语言模型训练框架。该项目不依赖PyTorch或cPython等大型框架，通过简洁代码实现GPT-2和GPT-3系列模型的预训练。llm.c支持单GPU、多GPU和多节点训练，提供详细教程和实验示例。项目在保持代码可读性的同时追求高性能，适用于教育和实际应用。此外，llm.c支持多种硬件平台，并有多个编程语言的移植版本。

相关项目

推荐项目

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

稿定AI

稿定设计是一个多功能的在线设计和创意平台，提供广泛的设计工具和资源，以满足不同用户的需求。从专业的图形设计师到普通用户，无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑，稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合，帮助用户轻松实现创意设计。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com