chatglm_finetuning

ChatGLM模型微调教程

deep_training chatglm-6b 训练推理微调 Github 开源项目

本项目提供详细的ChatGLM系列模型微调教程，支持全参数训练、Lora、AdaLora、IA3及P-Tuning-V2等方法。涵盖最新更新，如支持accelerator和colossalai训练，解除chatglm-6b-int4全参训练限制等。项目包含数据处理、推理脚本及多种训练参数设置，适合深度学习研究与应用。

访问官网

Github

Huggingface

介绍相关项目

MedQA-ChatGLM - 医疗问答模型的微调与应用

ChatGLMGithubLLaMA医疗大语言模型医疗对话开源项目微调

MedQA-ChatGLM是基于ChatGLM-6B的医疗问答模型，采用LoRA、P-Tuning V2和Freeze等方法进行微调。项目支持单卡和多卡分布式训练，并提供多种推理方式。模型使用cMedQA2等医疗数据集训练，旨在提升医疗领域问答能力。项目还整理了多个医疗大语言模型资源，为相关研究提供参考。

llm-resource - 大模型资源汇总及实用技术详解

ChatGPTGPT-2GithubLLMMOETransformer开源项目

LLM百宝箱是大模型相关资源的综合汇总，包括算法、训练、推理、数据工程、压缩和测评等方面。用户可以通过目录和链接快速找到相关内容，如Transformer和GPT模型的原理和源码解析，以及混合专家模型（MoE）等前沿技术。此外，还提供了LLM微调、对齐和推理优化的实现方案和技巧，帮助开发者和研究者深入掌握并应用大模型技术。

build_MiniLLM_from_scratch - 小规模参数LLM构建指南，支持多轮对话与聊天模型

GithubTorch4kerasbert4torchbuild_MiniLLM_from_scratch开源项目指令微调预训练

该项目详细介绍了如何从零开始构建小规模参数的语言模型（LLM），经过预训练、指令微调、奖励模型和强化学习四个阶段。项目基于bert4torch训练框架，优化内存占用，并提供完整的训练日志以供复现。模型支持与transformers兼容，能够进行多轮对话。项目也开源了预训练语料和权重，方便用户下载和使用，提升了实用性与操作性。

LLMsNineStoryDemonTower - 大语言模型全面学习路径从入门到实战进阶

ChatGLM3GithubLLMs开源模型开源项目微调自然语言处理

LLMsNineStoryDemonTower项目提供全面的大语言模型学习资源，涵盖NLP基础到高级应用的九个层次。内容包括ChatGLM、Baichuan、Llama2等主流模型实践，以及模型微调、推理加速和多模态应用等进阶主题。该项目为学习者构建了从理论到实践的完整大语言模型学习路径。

TinyLlama-1.1B-Chat-v0.6 - 基于Llama 2架构的轻量级开源聊天模型

GithubHuggingfaceTinyLlama人工智能开源项目模型聊天机器人语言模型预训练

TinyLlama-1.1B-Chat-v0.6是基于Llama 2架构的轻量级开源聊天模型。该模型在3万亿个token上预训练，仅有11亿参数，可与多种Llama项目兼容。它利用UltraChat数据集微调，并通过DPOTrainer在UltraFeedback数据集上对齐，平衡了性能和灵活性。TinyLlama适用于计算和内存资源受限的应用场景，为开发者提供了高效的集成选择。

openchat - 采用混合质量数据训练的高性能开源语言模型

GithubLlamaOpenChat人工智能开源开源项目语言模型

OpenChat是一个创新的开源语言模型库,采用C-RLFT策略从混合质量数据中学习。该模型在7B规模下实现了与ChatGPT相当的性能,无需偏好标签。项目致力于开发高性能、商用级的开源大语言模型,并持续进步。OpenChat支持多GPU部署,提供兼容OpenAI的API服务,适用于编码、聊天等多种任务。

llama-3-2-1b-sft - 超大规模对话数据集的精细调优AI模型

GithubHuggingfacellama-3-2-1b-sft开源项目微调模型训练数据集超参数超大规模语言模型

该项目将NousResearch的Llama-3.2-1B模型进行精细调优，使用HuggingFaceH4/ultrachat_200k数据集以提高对话处理性能。在多GPU分布式训练中，使用Adam优化器和余弦学习率调度策略，该模型在验证集上的损失率降低至1.2759。适用于广泛的自然语言处理应用，特别是在对话生成和交互式AI领域中。

simple-llm-finetuner - 在NVIDIA GPU上使用LoRA方法轻松微调语言模型

GithubGradioLoRANVIDIA GPUPEFTSimple LLM Finetuner开源项目

Simple LLM Finetuner项目提供了初学者友好的界面，利用LoRA方法和PEFT库在常见的NVIDIA GPU上微调语言模型。用户可以轻松管理数据集、定制参数，并评估模型推理能力。支持在UI中粘贴数据集，提供参数调整和详细说明。尽管项目已停止维护，建议使用替代工具如LLaMA-Factory、unsloth或text-generation-webui。

Llama3.1-70B-Chinese-Chat - 中英双语优化的Llama3.1-70B指令微调模型

GithubHuggingfaceLlama3.1-70B-Chinese-Chat开源项目文本生成模型细致调整角色扮演语言模型

项目基于Meta-Llama-3.1-70B-Instruct模型，优化针对中英用户，支持角色扮演、函数调用和数学能力。模型使用超10万偏好对数据集训练，提供q3_k_m、q4_k_m、q8_0和f16 GGUF版本。使用ORPO算法进行全参数微调，并基于LLaMA-Factory框架。用户需升级transformers库以下载使用BF16模型，亦可使用GGUF模型进行多种方式推理。

llama-2-7b-chat-bnb-4bit - 开源LLM模型训练加速工具实现2至5倍速提升并节省70%内存

GithubHuggingfaceLlama-2Unsloth人工智能大语言模型开源项目模型模型微调

该开源项目致力于优化大语言模型的训练过程，通过创新技术为Mistral、Gemma、Llama 2等主流模型提供训练加速解决方案。基于Colab平台的多个训练笔记本支持对话及文本补全功能，可实现2-5倍的训练速度提升，并将内存占用降低70%。项目支持GGUF格式导出及vLLM、Hugging Face平台部署，为计算资源受限的AI开发团队提供了高效的模型训练方案。

相关项目

项目侧边栏1

项目侧边栏2

推荐项目

Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

Project Cover

天工AI音乐

天工AI音乐平台支持音乐创作，特别是在国风音乐领域。该平台适合新手DJ和音乐爱好者使用，帮助他们启动音乐创作，增添生活乐趣，同时发现和分享新音乐。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com

@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号