Logo
Project Icon

mmpretrain

支持多种模型与大规模训练配置的PyTorch开源预训练工具箱

OpenMMLabMMPreTrainPyTorch预训练工具箱多模态学习Github开源项目

MMPreTrain是基于PyTorch的开源预训练工具箱，提供丰富的训练策略和高效的模型分析工具。支持多种主干网络和预训练模型，如VGG、ResNet、Vision-Transformer等。具备强大的扩展性和高效性，适用于图像分类、图像描述、视觉问答等多种推理任务。最新版本v1.2.0增加了对LLaVA 1.5和RAM的支持，并提供Gradio界面。适用于多模态学习和自监督学习，支持大规模训练配置。提供详细的安装和教程文档，帮助用户快速入门。

访问官网访问官网GithubGithub文档文档论文论文
介绍相关项目
Megatron-LM - 优化GPU训练技术 加速大规模Transformer模型
GPU优化GithubMegatron-CoreMegatron-LM分布式训练大语言模型开源项目
Megatron-LM框架利用GPU优化技术实现Transformer模型的大规模训练。其Megatron-Core组件提供模块化API和系统优化,支持自定义模型训练。该项目可进行BERT、GPT、T5等模型预训练,支持数千GPU分布式训练百亿参数级模型,并提供数据预处理、模型评估和下游任务功能。
mt-dnn - 多任务深度神经网络在自然语言理解中的最新应用
GithubMT-DNNPyTorch多任务深度神经网络开源项目自然语言理解预训练模型
该项目实现了基于PyTorch的多任务深度神经网络（MT-DNN），主要用于自然语言理解。最新版本添加了语言模型预训练和微调的对抗性训练功能。用户可以使用pip安装或通过Docker快速启动，项目提供详细的训练和微调步骤，支持序列标注和问答任务。此外，项目包含模型嵌入提取和训练加速功能。目前由于政策变化，公共存储解决方案暂不提供。
image-gpt - 支持多数据集的生成预训练模型
CIFAR10Fashion-MNISTGithubImage GPTPyTorch开源项目生成式预训练
Image GPT是一个基于生成像素预训练模型（Generative Pretraining from Pixels）的PyTorch实现，支持多种预训练模型和数据集。该项目允许下载预训练模型、量化图像、进行生成预训练和分类微调。它还具有BERT风格的预训练、支持加载OpenAI预训练模型等功能。目前，使用单个NVIDIA 2070 GPU可在Fashion-MNIST上实现高效训练，简化了多种图像数据集上的生成模型训练和应用流程。
LibMTL - 基于PyTorch的多任务学习开源库，支持多种架构和优化策略
GithubLibMTLPyTorch多任务学习开源库开源项目算法
LibMTL是一个基于PyTorch的开源库，专为多任务学习（MTL）设计。它提供了一致的代码库和评估流程，支持多种架构和优化策略，涵盖多个领域的基准数据集。LibMTL采用模块化设计，允许用户灵活添加自定义组件或调整现有算法，方便开发新策略或应用于新场景。详尽的文档确保不同经验水平的开发者都能轻松使用。
open-metric-learning - 开源的PyTorch度量学习框架 支持多模态嵌入训练
GithubPyTorchopen-metric-learning嵌入向量度量学习开源项目检索系统
open-metric-learning是一个基于PyTorch的开源度量学习框架，用于训练和验证高质量嵌入模型。它提供端到端流水线、实用案例和预训练模型库，支持图像和文本等多种模态。该框架具有统一的检索结果处理和评估方法，适用于人脸识别、商品搜索等嵌入学习任务。已被多家知名公司和机构采用，是一个功能丰富、易于上手的度量学习工具。
MEGABYTE-pytorch - 多尺度Transformer模型实现百万字节序列预测
AI模型GithubMEGABYTEPytorchTransformer开源项目深度学习
MEGABYTE-pytorch是一个基于PyTorch实现的多尺度Transformer模型，专门用于预测百万字节长度的序列。该项目具有灵活的配置选项，支持多个本地模型，并整合了Flash Attention等先进技术。MEGABYTE-pytorch通过简洁的API接口实现长序列处理、模型训练和文本生成。此外，项目提供了基于enwik8数据集的训练示例，为开发者提供了实用参考。
GLaMM-GranD-Pretrained - 基于GranD数据集的区域级理解和分割预训练模型
GLaMM-GranD-PretrainedGithubHuggingface图像分割大规模数据集开源项目模型深度学习计算机视觉
GLaMM-GranD-Pretrained是基于GranD数据集预训练的模型，专注于区域级理解和分割掩码生成。GranD数据集包含7.5百万个独特概念和810百万个带分割掩码的区域，通过自动化注释流程生成。该模型为计算机视觉任务提供高级像素分割能力。研究者可通过GitHub或Hugging Face获取模型，并参考相关论文和项目页面深入了解。
VisionLLM - 面向视觉任务的开放式多模态大语言模型
GithubVisionLLM人工智能多模态大语言模型开源项目视觉语言任务计算机视觉
VisionLLM 系列是一种多模态大语言模型，专注于视觉相关任务。该模型利用大语言模型作为开放式解码器，支持数百种视觉语言任务，包括视觉理解、感知和生成。VisionLLM v2 进一步提升了模型的通用性，扩展了其在多模态应用场景中的能力，推动了计算机视觉与自然语言处理的融合。
MiniCPM-V-2 - 多模态语言模型，支持跨平台高效部署
GithubHuggingfaceMiniCPM-V场景文本理解多模态开源项目模型深度学习视觉问答
MiniCPM-V 2.0是一个多模态大模型，以高效端侧部署和可靠性为特色，支持OCRBench和TextVQA等基准测试。该模型结合RLHF多模态技术，减少幻觉生成，并能处理任意宽高比的高分辨率图像。MiniCPM-V 2.0可在多数GPU和PC上高效运行，拥有中英双语支持，并能够在移动设备上执行，提供多种部署选择。
Awesome_Matching_Pretraining_Transfering - 多模态模型、参数高效微调及视觉语言预训练研究进展汇总
Github参数高效微调图像文本匹配多模态模型大型模型开源项目视觉语言预训练
该项目汇总了多模态模型、参数高效微调、视觉语言预训练和图像-文本匹配领域的研究进展。内容涵盖大语言模型、视频多模态模型等多个方向，定期更新最新论文和资源。项目为相关领域的研究人员和开发者提供了系统的学习参考。
相关项目
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号