Project Icon

INTERS

指令微调优化大型语言模型的搜索能力

INTERS是一个包含20个信息检索任务的指令微调数据集,旨在提升大型语言模型的搜索能力。该项目基于43个数据集构建,涵盖查询理解、文档理解和查询-文档关系理解三大类任务。实验表明,INTERS能有效增强LLaMA、Mistral等开源大型语言模型在信息检索方面的表现,为搜索技术发展开辟新路径。

awesome-llms-fine-tuning - 大语言模型微调资源指南,包括教程、工具与最佳实践
BERTGPTGithubLLMRoBERTafine-tuning开源项目
本页面汇总了微调大语言模型(如GPT、BERT、RoBERTa)的全面资源,适用于特定任务和领域的需求。包含教程、论文、工具、框架和最佳实践,为研究人员、数据科学家和机器学习从业者提供宝贵的指导,提升模型表现,优化工作流程。
LLM2LLM - 探索迭代数据增强提升语言模型性能
GSM8KGithubLLM2LLM大语言模型开源项目数据增强迭代学习
LLM2LLM项目提出了一种迭代数据增强方法,旨在提升大型语言模型的性能。该方法通过数据生成和筛选,创建高质量训练数据,逐步改进模型能力。研究团队在GSM8K等数据集上的实验证实了方法的有效性。项目已开源代码并提供复现指南,为相关研究和开发工作提供了参考资源。
WizardLM - 增强大型语言模型执行复杂指令的开源项目
GithubWizardLM人工智能大语言模型开源模型开源项目指令跟随
WizardLM项目致力于增强大型预训练语言模型处理复杂指令的能力。通过创新训练方法,该项目使模型更好地理解和执行多步骤、高难度任务。WizardLM在编程、数学和通用对话等基准测试中表现卓越。项目开源多个不同规模的模型版本,为语言模型技术的研究与应用提供有力支持。
cross-encoder-mmarco-mMiniLMv2-L12-H384-v1 - 多语言文本重排序模型提升搜索结果准确性
Apache许可证GithubHuggingfacemMiniLMv2开源项目模型模型再排序跨编码器重新上传
mmarco-mMiniLMv2-L12-H384-v1是一个多语言文本重排序模型,基于MiniLM架构设计。它采用12层transformer结构和384维隐藏层,专注于提升文本搜索和排序的准确性。该模型支持多语言输入,适用于搜索结果优化和文档排序等任务,在保持高效性能的同时兼顾了跨语言应用。作为一个开源项目,它为研究人员和开发者提供了强大的文本相关性评分工具。
ESFT - 专家专门化微调提升稀疏大语言模型性能
ESFTGithub专家混合大语言模型开源项目效率提升模型微调
ESFT项目提出专家专门化微调方法,针对Mixture-of-Experts架构的大语言模型进行高效定制。通过仅调整任务相关部分,该方法提高了模型效率和性能,同时降低资源消耗。项目开源了训练代码和评估脚本,方便研究人员应用于自有模型和数据集。这一技术为大规模语言模型的个性化和优化提供了新思路。
trl - 用于大型语言模型微调和对齐的开源工具库
GithubTRLTransformer大语言模型开源项目强化学习微调
TRL是一个开源的全栈工具库,专用于大型语言模型的微调和对齐。它支持监督式微调、奖励建模和近端策略优化等方法,适用于多种模型架构。该库基于Transformers构建,提供灵活的训练器和自动模型类,并集成Accelerate、PEFT等工具实现高效扩展。TRL还提供命令行界面,方便用户进行模型微调和交互。
Open-LLaVA-NeXT - 多模态大语言模型实现视觉语言对齐和指令微调的开源项目
AI模型评估GithubLLaVA-NeXT多模态模型开源实现开源项目视觉语言训练
Open-LLaVA-NeXT是一个复现LLaVA-NeXT系列模型的开源项目。它提供开源训练数据和检查点,基于LLaVA代码库进行修改。该项目支持CLIP-L-336视觉编码器以及Vicuna-7B和LLaMA3-8B等语言模型。通过特征对齐和视觉指令微调两个阶段的训练,Open-LLaVA-NeXT实现了多模态能力,在多项评估任务中表现优异。
SmolLM-135M-Instruct - 轻量级指令语言模型的高效实现
GithubHuggingfaceSmolLM人工智能开源项目机器学习模型模型训练语言模型
SmolLM-135M-Instruct是一个1.35亿参数的轻量级指令语言模型。经过高质量教育数据训练和公开数据集微调后,模型具备基础知识问答、创意写作和Python编程能力。支持MLC、GGUF等多种本地部署方案,可通过Transformers框架调用。v0.2版本进一步优化了对话质量和任务完成能力。
Infinity-Instruct-7M-Gen-mistral-7B - Infinity-Instruct-7M-Gen-Mistral-7B 提升AI模型指令执行效率的开源方案
GithubHuggingfaceInfinity Instruct北京人工智能研究院开源开源项目数据集模型
Infinity-Instruct-7M-Gen-Mistral-7B是一个公开可用的监督指令微调模型。它在Infinity-Instruct-7M和Infinity-Instruct-Gen数据集上进行优化,无需用户反馈强化学习。在AlpacaEval 2.0评测中,该模型表现优于Mixtral 8x22B v0.1、Gemini Pro和GPT-4。使用创新的训练技术,显著减少了模型训练成本,且基于与OpenHermes-2.5-Mistral-7B相同的聊天模板,专为对话场景设计。该模型和相关资源仅用于学术研究,且准确性不可担保。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号