Logo
Project Icon

build_MiniLLM_from_scratch

小规模参数LLM构建指南，支持多轮对话与聊天模型

build_MiniLLM_from_scratchbert4torchTorch4keras预训练指令微调Github开源项目

该项目详细介绍了如何从零开始构建小规模参数的语言模型（LLM），经过预训练、指令微调、奖励模型和强化学习四个阶段。项目基于bert4torch训练框架，优化内存占用，并提供完整的训练日志以供复现。模型支持与transformers兼容，能够进行多轮对话。项目也开源了预训练语料和权重，方便用户下载和使用，提升了实用性与操作性。

访问官网访问官网GithubGithubHuggingfaceHuggingface论文论文
介绍相关项目
llama3-from-scratch - 深入解析Llama 3模型实现原理
GithubLlama3开源项目机器学习模型实现神经网络自然语言处理
本项目详细演示了Llama 3模型的实现过程，包括模型架构、分词、嵌入和注意力机制等核心技术。通过逐步解析模型文件和实现RMS归一化、旋转位置编码(RoPE)等关键组件，为开发者提供了构建大型语言模型的实践指南。项目结合代码实现和可视化说明，深入浅出地解释了复杂概念，是研究大型语言模型的重要参考资料。
self-llm - 开源大模型部署与应用指南
AutoDLGithub开源大模型开源项目微调方法环境配置部署使用
探索开源大模型如LLaMA、ChatGLM的全流程部署与微调指南，涵盖环境配置至应用实践，专为国内初学者设计，通过AutoDL平台简化操作流程，助力大模型技术的普及和应用。
LLMsNineStoryDemonTower - 大语言模型全面学习路径 从入门到实战进阶
ChatGLM3GithubLLMs开源模型开源项目微调自然语言处理
LLMsNineStoryDemonTower项目提供全面的大语言模型学习资源，涵盖NLP基础到高级应用的九个层次。内容包括ChatGLM、Baichuan、Llama2等主流模型实践，以及模型微调、推理加速和多模态应用等进阶主题。该项目为学习者构建了从理论到实践的完整大语言模型学习路径。
ml-engineering - 大规模语言模型与多模态模型的训练方法
BLOOM-176BContextual.AIGithubHuggingFaceLarge Language ModelsVLM开源项目
本指南系统介绍了方法、工具和逐步操作说明，帮助工程师成功训练大规模语言模型（LLM）和多模态模型（VLM）。内容涵盖丰富的脚本和命令，适合LLM/VLM训练工程师和操作员使用。基于作者在开源BLOOM-176B和IDEFICS-80B模型训练中的经验，提供有效解决方案，并持续更新，服务于ML社区。
LLM-FineTuning-Large-Language-Models - LLM微调实践与技术应用指南
Fine-tuningGithubLLMPEFTQLoRA开源项目量化
本项目介绍了如何使用ORPO、QLoRA、GPTQ等技术对大型语言模型（LLM）进行微调，包含具体实例和代码片段。项目还提供与这些技术相关的YouTube视频链接，提供全面的学习资料。此外，项目还包含各类实用工具和技术说明，帮助用户更好地理解和应用这些前沿技术。适合有一定编程基础的研究人员和开发者参考。
TinyLlama - 3万亿token训练的小型1.1B参数语言模型
AI预训练GithubTinyLlama开源项目模型评估语言模型
TinyLlama是一个使用3万亿token预训练的1.1B参数语言模型。它与Llama 2架构兼容,可集成到现有Llama项目中。TinyLlama体积小巧,适用于计算和内存受限的场景。该项目开源了预训练和微调代码,具有高效的训练和推理性能。TinyLlama可应用于推测解码、边缘计算和实时对话等领域。
easyllm - 开源工具库助力简化大语言模型应用开发
API客户端EasyLLMGithubOpenAI兼容大语言模型开源项目
EasyLLM是一个开源项目，为开发者提供简化大语言模型操作的工具和方法。该项目实现了兼容OpenAI API的客户端，支持HuggingFace、Amazon SageMaker和Amazon Bedrock等平台的模型。EasyLLM允许开发者轻松切换不同语言模型，实现聊天、文本补全和嵌入等功能。此外，项目还包含进化指令生成和提示词工具等辅助模块，有效简化了大语言模型的应用开发流程。
Chinese-Tiny-LLM - 中文大语言模型训练流程与高质量语料库开源项目
Chinese-Tiny-LLMGithub中文语料库开源项目自然语言处理语言模型预训练
Chinese-Tiny-LLM项目提供完整的中文网络语料清洗流程和预训练代码，包含MAP-CC（8000亿中文token预训练数据集）、CHC-Bench（中文难例指令理解基准测试）和CT-LLM（2B参数中文中心语言模型）。该项目突破了传统依赖英语语料库的LLM训练方法，为构建更具包容性和适应性的语言模型奠定基础。
chatglm_finetuning - ChatGLM模型微调教程
Githubchatglm-6bdeep_training开源项目微调推理训练
本项目提供详细的ChatGLM系列模型微调教程，支持全参数训练、Lora、AdaLora、IA3及P-Tuning-V2等方法。涵盖最新更新，如支持accelerator和colossalai训练，解除chatglm-6b-int4全参训练限制等。项目包含数据处理、推理脚本及多种训练参数设置，适合深度学习研究与应用。
Firefly-LLaMA2-Chinese - 低资源高效的中英文LLaMA2模型预训练与指令微调
Firefly-LLaMA2-ChineseGithubHuggingface中英双语模型低资源增量预训练大模型技术开源项目
本项目专注于低资源增量预训练与多轮指令微调，提升LLaMA2模型在中文领域的表现。支持对多种中英文预训练模型进行扩充与优化，开源了7B和13B的Base与Chat模型。在Open LLM Leaderboard和CMMLU榜单上表现出色，以4*V100完成高效训练，远低于其他模型的GPU资源需求。提供全项目信流程训练代码及数据，对LLaMA2、Baichuan2等多个模型进行详细评测，确保用户获得全面权威的模型性能数据。
相关项目
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号