Logo
Project Icon

lightning-bolts

PyTorch Lightning的深度学习组件扩展

PyTorch LightningBoltsTorch ORTSparseMLDeepSparseGithub开源项目

Lightning Bolts为PyTorch Lightning提供了多种扩展组件，包括回调和数据集，旨在加速训练和推理。它支持通过Torch ORT将模型转换为优化的ONNX图，以实现GPU加速训练；并通过SparseML在微调中引入稀疏性，提高推理性能。项目支持广泛的问题解决，并欢迎用户贡献通用组件。了解更多安装和使用信息，请访问官方文档和社区支持平台。

访问官网访问官网GithubGithub文档文档
介绍知识库相关项目
pytorch_scatter - 优化分散操作的 PyTorch 扩展库
CPUGPUGithubPyTorch开源项目数据处理高性能计算
该扩展库为PyTorch提供了高效的稀疏更新和分段操作，包含scatter、segment_coo和segment_csr，支持sum、mean、min和max等归约方式。操作可适用于不同数据类型，并支持CPU和GPU。复合功能包括scatter_std、scatter_logsumexp、scatter_softmax和scatter_log_softmax。安装过程简单，适用于各大操作系统和PyTorch/CUDA组合。
solo-learn - 使用自监督学习进行无监督视觉表征的方法与技巧
GithubPyTorch Lightningsolo-learn开源项目无监督自监督学习视觉表示学习
solo-learn库基于PyTorch Lightning，提供多种自监督方法用于无监督视觉表征学习。该库包含全面的训练技巧和多种数据处理、评估方式，以提高训练效果和可重复性。其主要特点有快速的数据处理、自定义模型检查点、线上和线下的K-NN评估。库内包含灵活的数据增强、可视化功能，并不断更新方法和改进教程，使模型训练和调试更加高效简便。
deepsparse - 优化CPU上深度学习推理的高效稀疏性使用
CPU推理DeepSparseGithubLLM支持开源项目模型量化稀疏性
DeepSparse是一个专为CPU优化的深度学习推理运行时，通过使用稀疏性显著加快模型推理速度。结合SparseML优化库，DeepSparse支持模型剪枝和量化，在CPU上实现卓越性能。支持各种计算机视觉和自然语言处理模型，包括BERT、ViT、ResNet、YOLOv5/8等。此外，DeepSparse现已支持高效的LLM推理，对稀疏量化模型实现多倍加速。可通过PyPI安装，并提供多种API便于部署。
onnxruntime - 跨平台的机器学习模型推理与训练加速工具
GithubONNX Runtime开源项目机器学习模型训练深度学习硬件加速
ONNX Runtime是一款跨平台的机器学习推理和训练加速工具，兼容PyTorch、TensorFlow/Keras、scikit-learn等深度学习框架及传统机器学习库。它支持多种硬件和操作系统，通过硬件加速和图优化实现最佳性能，显著提升模型推理和训练速度，尤其在多节点NVIDIA GPU上的Transformer模型训练中表现出色。
tensorboardX - TensorBoard可视化的轻量级Python扩展库
GithubTensorBoardtensorboardX可视化开源项目机器学习深度学习
tensorboardX是一个开源的轻量级Python库，用于简化TensorBoard可视化工具的使用。它支持多种数据类型的可视化，如标量、图像和音频等。通过简单的函数调用，开发者可以轻松记录实验数据。该库兼容PyTorch等多种深度学习框架，方便跟踪和分析机器学习实验。此外，tensorboardX还能与Comet平台集成，提供额外的实验管理功能。它具有良好的版本兼容性，为不同环境下的机器学习项目提供了灵活的可视化解决方案。
norse - 生物启发的脉冲神经网络深度学习库
GithubNorsePyTorch开源项目深度学习神经形态计算脉冲神经网络
Norse是一个基于PyTorch的脉冲神经网络深度学习库，提供生物启发的神经元组件。它利用神经元的稀疏性和事件驱动特性，为研究人员和开发者提供现代化基础设施。Norse支持多种神经元模型、突触动力学和算法，并提供数据集集成和任务示例，适用于不同规模的实验环境。
practicalAI-cn - PyTorch与Google Colab下的机器学习与深度学习实践
GithubGoogle ColabPyTorchpracticalAI开源项目机器学习深度学习
通过practicalAI-cn项目，任何水平的学习者都可以从基础到进阶掌握机器学习与深度学习技能。项目使用PyTorch实现核心算法，并提供多种notebooks，涵盖线性回归、卷积神经网络等多种模型。无需复杂的环境设置，可通过Google Colab直接运行，进行产品级的面向对象编程学习，助力从数据中获取有价值的见解。
DeepSpeed - 一个深度学习优化库，专为大规模模型训练和推理设计
DeepSpeedGithub分布式训练大规模模型训练开源项目模型压缩模型推理
DeepSpeed 是一个深度学习优化软件套件，专为大规模模型训练和推理设计，能显著优化系统性能和降低成本。它支持亿级至万亿级参数的高效管理，兼容各种计算环境，从资源受限的GPU系统到庞大的GPU集群。此外，DeepSpeed 在模型压缩和推理领域亦取得创新成就，提供极低的延迟和极高的处理速率。
gpytorch - 基于PyTorch实现的灵活高斯过程建模工具
GPU加速GPyTorchGaussian processGithubKISS-GPPyTorch开源项目
GPyTorch是一个基于PyTorch实现的高斯过程库，旨在简便地创建可扩展、灵活的高斯过程模型。它通过数值线性代数技术实现了显著的GPU加速，并集成了如SKI/KISS-GP和随机Lanczos展开等先进算法，同时能与深度学习框架无缝结合。支持Python 3.8及以上版本。更多信息、示例和教程请参阅官方文档。
Firefly - 开源大模型训练平台
FireflyGithubQLoRA大模型训练开源项目指令微调预训练
Firefly作为一个开源大模型训练工具，提供预训练、指令微调和DPO的全面解决方案。支持LoRA、QLoRA等高效训练技术，并涵盖多种主流大模型如Qwen2、Yi-1.5，特别适合显存和资源有限的环境。项目不仅开源多种数据集，还在Open LLM排行榜中展示了QLoRA训练的高效性，并与Unsloth合作，进一步优化了训练效率和显存使用。
相关项目
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

稿定AI

稿定设计 是一个多功能的在线设计和创意平台，提供广泛的设计工具和资源，以满足不同用户的需求。从专业的图形设计师到普通用户，无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑，稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合，帮助用户轻松实现创意设计。

使用协议隐私政策广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号