Project Icon

morph-net

在训练过程中优化深度网络结构的方法

MorphNet是一种在训练过程中优化深度网络结构的方法。通过使用正则化器优化FLOPs或模型大小等资源的消耗,MorphNet实现了受约束的网络结构优化。新方法FiGS采用概率性通道正则化,适用于剪枝和可微架构搜索。MorphNet可以在不改变网络拓扑的情况下调整卷积层的输出通道数,以简化模型并满足内存和延迟需求。项目由Elad Eban和Andrew Poon等人维护。

modded-nanogpt - 基于PyTorch的高效GPT-2训练器变体
GPT-2GithubNanoGPTPyTorch开源项目模型优化训练效率
Modded-NanoGPT是一个基于Andrej Karpathy的llm.c项目的GPT-2训练器变体。该项目通过引入旋转嵌入等现代技术,将训练效率提高一倍,仅需5B tokens即可达到与原版相同的验证损失。代码简化至446行,实现了124M参数的transformer模型。在Fineweb验证集上,模型达到3.2818的验证损失。通过架构调整和超参数优化,该项目在保持性能的同时显著提升了训练速度。
zephyr-sft-bnb-4bit - 通过Unsloth技术快速优化Mistral等模型的内存使用
GithubHuggingfaceMistralUnsloth开源项目微调性能优化模型节省内存
该项目使用Unsloth技术实现了Mistral、Gemma和Llama等模型的快速微调,显著降低内存使用率。用户可以通过简单的操作获得优化后的模型,支持导出为GGUF、vLLM或上传至Hugging Face。此方法特别适用于内存要求高的模型,并免费提供初学者友好的工具。
LFM - 潜空间流匹配实现高效图像生成
Flow MatchingGithubPyTorch图像生成开源项目潜在空间生成模型
LFM项目创新性地将流匹配应用于预训练自编码器的潜空间,显著提升高分辨率图像生成的效率。这种方法不仅在计算资源有限的情况下保持了图像质量,还首次将条件生成任务融入流匹配框架。经过广泛测试,LFM在多个数据集上均取得了优异的定量和定性结果。
nfnet_l0.ra2_in1k - 轻量级NFNet模型:无需规范化层的高效图像识别
GithubHuggingfaceImageNet-1kNFNettimm图像分类开源项目模型特征提取
nfnet_l0.ra2_in1k是一种创新的轻量级NFNet图像分类模型,摒弃了传统的规范化层。它通过Scaled Weight Standardization和策略性放置的标量增益,实现了高效的大规模图像识别。基于ImageNet-1k数据集训练,该模型拥有3510万参数,适用于图像分类、特征提取和嵌入任务。这种无需常规规范化层的设计,为高性能图像处理提供了新的可能。
control_v11f1p_sd15_depth - 基于深度图的ControlNet模型为Stable Diffusion提供精准深度控制
ControlNetGithubHuggingfaceStable Diffusion图像处理图像生成开源项目模型深度估计
control_v11f1p_sd15_depth是ControlNet v1.1系列的深度图控制模型。它通过深度信息精确控制图像生成,支持多种深度估计方法。相比1.0版本,新模型优化了训练数据,提高了预处理器兼容性,增强了通用性和鲁棒性。该模型可与Stable Diffusion等扩散模型配合使用,为图像生成提供精确的深度控制。
distill-sd - 更小更快速的Stable Diffusion模型,依靠知识蒸馏实现高质量图像生成
GithubStable Diffusion开源项目模型压缩神经网络训练细节预训练检查点
基于知识蒸馏技术开发的小型高速Stable Diffusion模型。这些模型保留了完整版本的图像质量,同时大幅减小了体积和提升了速度。文档详细介绍了数据下载脚本、U-net训练方法和模型参数设置,还支持LoRA训练及从检查点恢复。提供清晰的使用指南和预训练模型,适配快速高效图像生成需求。
TopoNet - 自动驾驶场景拓扑推理的图神经网络方法
GithubOpenLane-V2TopoNet图神经网络场景拓扑推理开源项目自动驾驶
TopoNet是一个端到端框架,用于推理自动驾驶场景中车道中心线和交通元素间的连接关系。该框架采用图神经网络和知识图结构,整合异构特征并加强特征交互。TopoNet在OpenLane-V2数据集上展现了领先性能,为自动驾驶场景拓扑推理树立新标准。项目提供开源代码和预训练模型,促进自动驾驶研究发展。
DCNv4 - 为视觉应用设计的高效算子,通过优化空间聚合和内存访问
DCNv4Github可变形卷积开源项目深度学习神经网络计算机视觉
DCNv4是一种为视觉应用设计的高效算子。通过优化空间聚合和内存访问,它解决了DCNv3的局限性。DCNv4在图像分类、分割和生成等任务中表现优异,收敛和处理速度显著提升,前向速度提高3倍以上。其卓越的性能和效率使DCNv4成为未来视觉模型的潜力基础构建块。
LMFlow - 开源大型机器学习模型微调工具箱
GithubLMFlowfinetuning优化开源项目性能模型
LMFlow为大型机器学习模型微调提供一个可扩展、便捷且高效的开源工具箱,支持多种优化功能,如自定义优化器训练、LISA算法等,已广泛应用于机器学习领域。
tf_efficientnet_b3.ns_jft_in1k - 结合EfficientNet架构的神经网络图像处理模型
EfficientNetGithubHuggingfaceImageNet图像分类开源项目模型深度学习特征提取
该模型采用EfficientNet架构,通过Noisy Student半监督学习方法在ImageNet-1k和JFT-300m数据集训练。模型参数量1220万,支持300x300分辨率图像处理,可实现图像分类、特征提取和图像嵌入等功能。模型结合高效的网络架构和半监督学习技术,在图像处理任务中表现出色。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

白日梦AI

白日梦AI提供专注于AI视频生成的多样化功能,包括文生视频、动态画面和形象生成等,帮助用户快速上手,创造专业级内容。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

讯飞绘镜

讯飞绘镜是一个支持从创意到完整视频创作的智能平台,用户可以快速生成视频素材并创作独特的音乐视频和故事。平台提供多样化的主题和精选作品,帮助用户探索创意灵感。

Project Cover

讯飞文书

讯飞文书依托讯飞星火大模型,为文书写作者提供从素材筹备到稿件撰写及审稿的全程支持。通过录音智记和以稿写稿等功能,满足事务性工作的高频需求,帮助撰稿人节省精力,提高效率,优化工作与生活。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号