Project Icon

xmtf

通过多任务微调提升跨语言泛化能力

XMTF项目探索了通过多语言多任务微调来增强模型的跨语言泛化能力。研究者基于BLOOM和mT5模型,使用xP3数据集进行微调,开发了BLOOMZ和mT0系列模型。这些模型在46种语言的13个任务上接受训练,展现出显著的跨语言和跨任务迁移学习能力。项目公开了完整的数据处理流程、模型训练方法和评估体系,为自然语言处理领域的跨语言研究提供了重要参考。

Chinese-Mixtral-8x7B - 增强中文编解码能力的开源大模型
Chinese-Mixtral-8x7BGithubMoE模型增量预训练开源项目推理加速模型下载
Chinese-Mixtral-8x7B通过中文扩词表和增量预训练,提高了在中文编解码和生成理解能力。项目提供完整的开源模型及预训练代码,支持QLoRA训练和多种推理加速方案。其在中文知识和理解上的表现卓越,同时在英文方面也表现不俗,适用于各种中文自然语言处理应用场景。
LibMTL - 基于PyTorch的多任务学习开源库,支持多种架构和优化策略
GithubLibMTLPyTorch多任务学习开源库开源项目算法
LibMTL是一个基于PyTorch的开源库,专为多任务学习(MTL)设计。它提供了一致的代码库和评估流程,支持多种架构和优化策略,涵盖多个领域的基准数据集。LibMTL采用模块化设计,允许用户灵活添加自定义组件或调整现有算法,方便开发新策略或应用于新场景。详尽的文档确保不同经验水平的开发者都能轻松使用。
prompt-tuning - 简介提示微调技术的参数优化及其实践方法
FlaxGithubJaxPrompt TuningT5X开源项目模型配置
本指南客观介绍了基于T5X、Flaxformer和JAX的提示微调技术,涵盖完整流程,包括安装、训练和推理,并详细说明在TPU和TPU Pod上执行大规模模型微调的方法。提供了配置文件管理和提示参数初始化的详细步骤,适用于研究人员和开发者优化模型性能。
trlx - 分布式微调大型语言模型的强化学习框架,支持奖励函数与高效并行
GithubHugging FaceILQLNVIDIA NeMoPPOtrlX开源项目
一个专注于强化学习微调大型语言模型的分布式训练框架。支持使用奖励函数或已标注数据集进行训练,兼容🤗Hugging Face和NVIDIA NeMo模型,可扩展到20B参数以上。实现了PPO和ILQL等多种RL算法,提供详细文档和丰富示例,支持分布式训练和超参数搜索。适用于各种应用场景,通过高效并行技术提升训练效率。
mbart-large-50-many-to-one-mmt - 支持50种语言直接互译的多语言机器翻译模型
GithubHugging FaceHuggingfacemBART-50多语言机器翻译开源项目模型神经网络模型自然语言处理
mbart-large-50-many-to-one-mmt是一个基于mBART-large-50微调的多语言机器翻译模型,支持50种语言之间的直接互译。该模型无需中间语言,使用简单,只需几行代码即可实现翻译。它在处理低资源语言和长文本方面表现优异,适用于跨语言交流和全球化业务场景。模型覆盖多个语系,包括印欧、亚非和阿尔泰语系等,为用户提供全面的多语言翻译解决方案。
Infinity-Instruct-3M-0613-Mistral-7B - 提升语言模型性能的开源指导调优模型
AlpacaEval2.0GithubHuggingfaceInfinity Instruct开源模型开源项目指令微调无反馈强化学习模型
Infinity-Instruct-3M-0613-Mistral-7B是一个开源的指导调优模型,无需人类反馈的强化学习。该模型在百万级指令数据集上经过微调,在AlpacaEval 2.0基准测试中取得了25.5的高分,表现优于Mixtral 8x7B v0.1、Gemini Pro和GPT-3.5。通过低成本训练提高了Mistral-7B的基础能力和对话能力,并在MT-Bench测试中表现出色。适合多样化的下游任务,该模型为研究与应用提供了良好的支持。
Mixture-of-depths - Transformer语言模型的动态计算资源分配方法
GithubMixture-of-Depths开源项目模型实现深度学习语言模型
Mixture-of-depths是一种Transformer语言模型优化方法,通过动态分配计算资源提高性能。该项目提供Mistral、Mixtral、LLama等多个主流模型的非官方实现。项目支持高级API接口,兼容transformers库,便于研究应用。这种方法旨在提升模型推理效率和灵活性,同时保持输出质量。
Aurora - 通过指令调优激活 Mixtral-8x7B 稀疏专家混合体的中文聊天功能
AuroraGithubMixtral-8x7B中文对话能力开源项目指令调优语言模型
Aurora项目通过整合三大中文数据集,提升了Mixtral-8x7B稀疏专家模型的中文对话能力。通过数据预处理和指令微调,该模型在C-Eval、MMLU和CMMLU基准测试中表现出色。这项研究首次在稀疏专家模型上应用指令微调,提升了模型的架构能力,特别是在零样本任务中表现卓越。
ALMA-13B-Pretrain - 改进大型语言模型的翻译性能与偏好优化技术
ALMAGithubHuggingfaceLoRA微调对比偏好优化开源项目数据集机器翻译模型
ALMA基于新的翻译模型范式,初步在单语数据上进行精调,接着应用高质量的平行数据进行优化,从而显著提升大型语言模型的翻译效果。其最新版本ALMA-R采用了对比偏好优化(CPO),相较于传统监督精调,进一步提高了翻译的精度,可与GPT-4媲美。尤其是ALMA-13B-LoRA,通过过渡性精调和人类撰写的平行数据,确保了在专业翻译任务中的卓越表现。
fine-tune-mistral - Mistral大语言模型全量微调开源项目
GithubHugging FaceMistral开源项目微调模型训练深度学习
fine-tune-mistral是一个专注于Mistral 7B大语言模型全量微调的开源项目。项目提供完整训练代码和使用说明,支持多GPU训练。其中包含多项训练技巧,如学习率调整和数据量建议等。项目还强调通过评估任务来衡量模型性能改进。该工具为研究者提供了一个进行Mistral模型定制化的便捷平台。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

稿定AI

稿定设计 是一个多功能的在线设计和创意平台,提供广泛的设计工具和资源,以满足不同用户的需求。从专业的图形设计师到普通用户,无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑,稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合,帮助用户轻松实现创意设计。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号