Logo
Project Icon

fast-DiT

改进PyTorch实现的可扩展扩散模型转换器

DiT扩散模型Transformer图像生成PyTorchGithub开源项目

fast-DiT 项目提供了扩散模型转换器（DiT）的改进 PyTorch 实现。该项目包含预训练的类条件 DiT 模型、Hugging Face Space 和 Colab 笔记本，以及优化的训练脚本。通过采用梯度检查点、混合精度训练和 VAE 特征预提取等技术，显著提升了训练速度和内存效率。这一实现为研究人员和开发者提供了探索和应用扩散模型的有力工具。

访问官网访问官网GithubGithubHuggingfaceHuggingface论文论文
介绍相关项目
SiT - 可扩展插值变换器 融合流模型和扩散模型的图像生成新方法
GithubSiT图像生成开源项目机器学习深度学习生成模型
SiT项目开发了可扩展插值变换器，这是一种基于扩散变换器的生成模型。通过灵活连接分布，SiT实现了对动态传输生成模型的模块化研究。在条件ImageNet 256x256基准测试中，SiT以相同的骨架和参数超越了DiT，并通过优化扩散系数获得了2.06的FID-50K分数。项目提供PyTorch实现、预训练模型和训练脚本，推动了图像生成技术的进步。
DiG - 基于门控线性注意力的高效可扩展扩散模型
DiGDiffusion ModelsGated Linear AttentionGithub图像生成开源项目深度学习
DiG项目提出了一种基于门控线性注意力的扩散模型,用于解决现有模型在可扩展性和计算效率方面的挑战。该模型在高分辨率下展现出显著的训练速度提升和内存节省,性能优于DiT。DiG在不同计算复杂度下表现出色,随着模型深度/宽度增加或输入令牌增强,FID值持续下降。与其他次二次时间复杂度的扩散模型相比,DiG在多种分辨率下都展现出卓越的效率。
DiT-MoE - 16亿参数规模的稀疏化扩散Transformer模型
DiT-MoEGithub图像生成开源项目扩散模型深度学习混合专家
DiT-MoE项目采用混合专家模型，将扩散Transformer扩展至16亿参数规模。作为扩散Transformer的稀疏版本，DiT-MoE在保持与密集网络相当性能的同时，实现了高效的推理。项目提供PyTorch实现、预训练权重和训练/采样代码，并包含专家路由分析和Hugging Face检查点。通过混合专家方法，DiT-MoE在模型扩展和推理优化方面展现出显著优势。
FastDiff - 高效生成高保真语音的快速条件扩散模型
FastDiffGithubPyTorch开源项目条件扩散模型语音合成高保真语音合成
FastDiff项目实现了一种高效生成高保真语音的条件扩散模型。该项目在GitHub上提供了开源实现和预训练模型，支持包括LJSpeech、LibriTTS和VCTK在内的多种数据集。适用于语音合成和神经语音编解码等任务，并支持多GPU并行训练。项目还提供了详细的推理和训练指南，以及预处理工具和训练配置示例。FastDiff代码参考了NATSpeech和Tacotron2等项目，广泛适用于研究和实际应用。
SpeeD - 通过时间步长优化实现扩散模型训练加速
AI生成GithubSpeeD开源项目扩散模型深度学习训练加速
SpeeD是一种创新的扩散模型训练加速技术,通过对时间步长的深入分析和优化,将训练过程分为加速、减速和收敛三个区域。该方法采用重采样和重加权策略,实现了训练速度的显著提升。SpeeD易于与现有模型集成,能有效提高扩散模型的训练效率,为图像生成等任务提供了新的解决方案。
FasterViT - 高效分层注意力的视觉transformer新突破
FasterViTGithub图像分类层级注意力机制开源项目目标检测视觉Transformer
FasterViT是一种创新的视觉transformer模型,采用分层注意力机制高效捕获短程和长程信息。在ImageNet分类任务中,FasterViT实现了精度和吞吐量的新平衡,无需额外训练数据即达到最先进水平。该项目提供多种预训练模型,适应不同计算资源和精度需求,支持任意分辨率输入,为目标检测、分割等下游任务提供灵活选择。
HunyuanDiT - 实现多分辨率扩散和细粒度中英文理解
GithubHunyuanDiT中英双语多轮对话开源开源项目文本生成图像
HunyuanDiT是一个多分辨率扩散变换器模型，具有细粒度的中英文理解能力。该模型采用优化的变换器结构、文本编码器和位置编码，通过迭代数据流程提升性能。HunyuanDiT支持多轮多模态对话，可根据上下文生成和优化图像。经专业评估，该模型在中文到图像生成方面达到开源模型的先进水平。
flash-diffusion - 用于加速条件扩散模型的高效蒸馏技术
Flash DiffusionGithubLoRA加速技术图像生成开源项目扩散模型
Flash Diffusion是一种用于加速预训练扩散模型图像生成的蒸馏方法。该技术高效、快速、通用且兼容LoRA，在COCO数据集上实现了少步骤图像生成的先进性能。Flash Diffusion只需几小时GPU训练时间和较少可训练参数，适用于文本生成图像、图像修复、换脸和超分辨率等多种任务。它支持UNet和DiT等不同骨干网络，能够显著减少采样步骤，同时保持高质量的图像生成效果。
transformer_latent_diffusion - 基于 PyTorch 的 Transformer 潜在扩散文本生图模型
AI绘图GithubLatent DiffusionPyTorchTransformer图像生成开源项目
Transformer Latent Diffusion 是一个基于 PyTorch 的开源项目，实现了文本到图像的潜在扩散模型。该模型体积小、生成速度快、性能合理，可在单 GPU 上快速训练。项目代码简洁，依赖少，注重数据质量。它提供数据处理工具，支持自定义训练，并进行了多项性能优化。项目展示了 256 分辨率随机样本和 CLIP 插值等生成示例。
HiDiffusion - 无需训练即可提升扩散模型分辨率和速度的方法
AI绘图GithubHiDiffusion图像生成开源项目扩散模型高分辨率
HiDiffusion是一种提高预训练扩散模型分辨率和速度的方法，无需额外训练。通过添加单行代码即可集成到现有扩散管道中。它支持文本到图像、图像到图像和修复等多种任务，适用于Stable Diffusion XL、Stable Diffusion v2等主流模型。HiDiffusion还兼容ControlNet等下游任务，为图像生成提供更高质量和效率。
相关项目
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号