Project Icon

poptorch

将PyTorch模型部署到Graphcore IPU的开源工具

PopTorch是一个为Graphcore IPU开发的PyTorch扩展工具集,支持在IPU上进行模型训练、评估和使用。项目包含PopTorch和PopTorch Geometric两个主要组件,分别用于常规深度学习和图神经网络模型。项目提供了用户指南、安装说明和构建流程,主要适配Ubuntu 20.04环境。开发者可选择通过pip安装预编译wheel包或从源代码构建。PopTorch旨在让开发者充分利用IPU的计算能力,用于构建高性能AI应用。

skorch - scikit-learn兼容的PyTorch神经网络库
GithubGridSearchCVPyTorchscikit-learnskorch开源项目神经网络
skorch 是一款与 scikit-learn 兼容的神经网络库,通过封装 PyTorch 简化深度学习模型的构建和训练。功能包括学习率调度、早停与参数冻结等,并支持 Hugging Face 和 GPyTorch 的集成。用户可通过 pip 或 conda 安装,并在 sklearn Pipeline 和网格搜索中使用其功能,提升深度学习模型的开发与优化效率。
pyg-lib - 图形神经网络高性能计算库
CUDAGithubPyTorchPythonpyg-lib安装开源项目
pyg-lib是一款专为图形神经网络优化的高性能计算库。该项目为Linux、Windows和macOS等主流操作系统提供预构建的Python包,兼容多个PyTorch版本和CUDA组合,支持Python 3.8至3.12。pyg-lib通过提升图形神经网络的计算效率,为研究和开发提供了实用工具。研究人员和开发者可根据具体的系统环境,使用pip命令快速安装所需版本,轻松增强图形神经网络的性能。
torch-points3d - 用于在点云上进行深度学习的 Pytorch 框架
CUDAGithubPyTorchtorch-points3d开源项目深度学习点云分析
一个用于点云分析的深度学习框架,基于Pytorch Geometric和Facebook Hydra。该框架支持构建复杂模型并提供高层次API,支持PointNet、PointNet++、RSConv等常见模型,便捷实现分类、分割和检测任务。推荐使用Docker安装以确保兼容性。了解更多信息,请查阅文档和示例笔记本。
pomegranate - Python 中快速、灵活且易于使用的概率建模
GPU支持GithubPyTorchpomegranate开源项目概率建模混合精度支持
新版本将计算后端从Cython迁移到PyTorch,提升了速度和灵活性。新特性包括GPU支持、半精度计算、多变量分布、缺失值处理以及更好的社区贡献。改进后的pomegranate在混合模型、贝叶斯网络和隐马尔科夫模型的构建中表现出色,实现了高度的灵活性和效率。
skypilot - 高效部署AI和批处理作业至全球云平台
GPUGithubLLMSkyPilot云计算开源项目成本节约热门
SkyPilot是一个为LLMs和AI提供的框架,支持在任意云平台运行,最大化GPU利用率和降低成本。该框架通过自动管理作业队列,简化了扩展操作,还提供了对象存储的简便接入。用户可以在全球任一区域的云中自动故障转移,使用管理型Spot实例以较低成本运行,同时自动选择成本最优的机型和区域。
model_server - 高性能AI模型部署系统 支持多框架和多设备
AI部署GithubOpenVINO Model Server开源项目微服务架构模型推理模型管理
OpenVINO Model Server是一个高性能AI模型部署系统,针对Intel架构优化。支持TensorFlow、PaddlePaddle和ONNX等多种框架,可在不同AI加速器上运行。系统通过gRPC和REST API提供服务,具备模型版本控制、动态输入和DAG调度等功能。适用于边缘计算和云环境,可提高资源利用率和推理效率。该系统还支持Python代码执行、gRPC流式传输和MediaPipe图形服务。OpenVINO Model Server适合微服务架构应用和Kubernetes环境部署,可实现水平和垂直推理扩展。
ppq - 多功能的神经网络量化工具
GithubOnnxPPQTensorRT开源项目神经网络量化量化优化
PPQ 是一个适用于工业应用的神经网络量化工具。通过将浮点运算转换为定点运算,它显著提升系统功耗效率和执行速度。具备高度扩展性,用户可自定义量化过程,并结合多种硬件和推理库使用。版本 0.6.6 更新了图模式匹配、图融合功能,并新增 FP8 量化规范和 PFL 基础类库。支持 TensorRT, Openvino, Onnxruntime 等推理框架,实现高效的神经网络量化部署。
torchtitan - PyTorch原生大规模语言模型训练框架
GithubLLM训练Llama模型PyTorchtorchtitan分布式训练开源项目
torchtitan是基于PyTorch的大规模语言模型训练框架,展示了最新分布式训练功能。它采用简洁模块化设计,支持多种并行化技术,包括数据并行、张量并行和管道并行。框架还提供分布式检查点和Float8等先进特性,为Llama 3和Llama 2等模型预训练提供高效方案。torchtitan旨在展示PyTorch在大规模语言模型训练中的潜力。
Holocron - 深度学习计算机视觉技巧的高效实现与应用
GithubHolocronPyTorch开源项目模型深度学习计算机视觉
Holocron项目提供深度学习计算机视觉最新技术的高效实现,增强开发者灵活性并与PyTorch生态系统兼容。支持多种图像分类、目标检测和语义分割模型,包括Res2Net、Darknet和YOLO等。项目附带详细文档、示例代码和实时演示,助力开发者快速上手并部署高性能视觉解决方案,并提供多种优化算法和工具提升训练效率与准确性。适用于追求前沿性能和灵活开发环境的研究人员和工程师。
serve - 提高PyTorch模型服务效率和安全性的关键技术
GithubPyTorchTorchServe大规模模型安全性开源项目模型服务
TorchServe是一款高效灵活的平台,用于生产环境中PyTorch模型的部署和扩展。最新版本通过默认启用的令牌授权机制和增强的模型API控制,有效预防未授权API调用和恶意代码风险。此外,该平台还支持在不同环境(包括本地、云服务及各类硬件)中快速部署模型。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

Project Cover

稿定AI

稿定设计 是一个多功能的在线设计和创意平台,提供广泛的设计工具和资源,以满足不同用户的需求。从专业的图形设计师到普通用户,无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑,稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合,帮助用户轻松实现创意设计。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号