Project Icon

diagram_detr_r50_finetuned

BPMN形状数据集上的精细调优识别模型

该项目在BPMN形状数据集上,精细调优了kacper-cierzniewski/daigram_detr_r50_albumentations模型,取得了有效的评估表现。通过调整学习率、批量大小以及优化器等超参数,并采用线性学习率调度,该模型在多达500个训练周期中持续优化。最终的训练损失达到0.9817,通过Native AMP混合精度训练技术,该模型在BPMN形状识别任务中具有较高的准确性和稳定性。

quote-model-BERTm-v1 - BERT多语言模型在引用识别任务上的高性能微调应用
BERTGithubHuggingface多语言模型开源项目文本分类机器学习模型自然语言处理
quote-model-BERTm-v1是一个基于BERT多语言模型微调的引用识别工具。该模型在评估集上表现优异,准确率达93.14%,F1分数为0.8676。通过Adam优化器和线性学习率调度器,经过3轮训练而成。这一模型专门用于多语言环境下的高精度引用识别,可广泛应用于需要处理多语种文本引用的场景。
florence2-finetuning - 视觉语言模型的高效微调实现
Florence-2Github分布式训练开源项目微调微软视觉语言模型
本项目展示了Florence-2模型的微调方法。Florence-2是一个基础视觉语言模型,特点是模型小且性能强。项目包含模型安装、数据准备和代码修改说明,并提供单GPU及分布式训练脚本。这些工具可用于Florence-2的特定任务训练,适用于各种计算机视觉和视觉语言任务。
Transformers-Tutorials - Transformers库深度学习模型教程集合
GithubHuggingFaceTransformers开源项目深度学习自然语言处理计算机视觉
这个项目汇集了基于HuggingFace Transformers库的多种深度学习模型教程,涵盖自然语言处理和计算机视觉等领域。内容包括BERT、DETR、LayoutLM等模型的微调和推理示例,展示了在图像分类、目标检测、文档分析等任务中的应用。所有代码采用PyTorch实现,并提供Colab notebooks方便实践。
LLM-FineTuning-Large-Language-Models - LLM微调实践与技术应用指南
Fine-tuningGithubLLMPEFTQLoRA开源项目量化
本项目介绍了如何使用ORPO、QLoRA、GPTQ等技术对大型语言模型(LLM)进行微调,包含具体实例和代码片段。项目还提供与这些技术相关的YouTube视频链接,提供全面的学习资料。此外,项目还包含各类实用工具和技术说明,帮助用户更好地理解和应用这些前沿技术。适合有一定编程基础的研究人员和开发者参考。
fine-tune-mistral - Mistral大语言模型全量微调开源项目
GithubHugging FaceMistral开源项目微调模型训练深度学习
fine-tune-mistral是一个专注于Mistral 7B大语言模型全量微调的开源项目。项目提供完整训练代码和使用说明,支持多GPU训练。其中包含多项训练技巧,如学习率调整和数据量建议等。项目还强调通过评估任务来衡量模型性能改进。该工具为研究者提供了一个进行Mistral模型定制化的便捷平台。
LLM-RLHF-Tuning - RLHF三阶段训练支持指令微调、奖励模型和多种训练方式
DPOGithubLLaMALLaMA2PPORLHF开源项目
本项目实现了RLHF的三阶段训练,包括指令微调、奖励模型训练和PPO算法训练。支持LLaMA和LLaMA2模型,并提供多种分布式加速训练方法。项目附有详细的实现文档,并对比了其他开源框架的功能,是RLHF训练的宝贵资源。
Neural-Network-Architecture-Diagrams - 使用diagrams.net创建神经网络模型图
AutoencoderGithubNeural NetworkVGG-16YOLO v1diagrams.net开源项目
本项目使用diagrams.net(也叫draw.io)生成神经网络模型图,帮助用户直观理解不同的神经网络结构。涵盖YOLO v1、VGG-16、Autoencoder等实例,并欢迎贡献新的架构图。无论是初学者还是研究人员,皆可受益于提供的可视化示例。点击查看更多详情,了解如何分享架构图。
DoRA - 大型语言模型微调的权重分解低秩适应方法
DoRAGithub低秩适应大语言模型开源项目微调权重分解
DoRA是一种新型大型语言模型微调方法,通过将预训练权重分解为幅度和方向两个部分进行更新。与LoRA相比,DoRA在保持参数效率的同时提升了模型的学习能力和训练稳定性。研究表明,DoRA在常识推理、视觉指令调优和图像/视频-文本理解等多项下游任务中表现优于LoRA。该技术已集成到Hugging Face PEFT和Diffusers库中,可用于多种模型的微调。
BMTrain - 分布式大规模深度学习模型训练优化工具
BMTrainGithubZeRO优化分布式训练大模型训练开源项目性能优化
BMTrain是一款为大规模深度学习模型设计的分布式训练工具。它能够支持训练包含数十亿参数的模型,并保持代码简洁性。该工具集成了ZeRO优化和通信优化等技术,可提高训练效率和显存利用率。BMTrain与PyTorch兼容,仅需少量代码调整即可实现分布式训练。在13B参数的GPT-2模型训练中,BMTrain展现出优越性能。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号