Project Icon

Efficient-LLMs-Survey

大语言模型效率优化技术综述

本项目系统性地综述了大语言模型效率优化研究,包括模型压缩、高效预训练、微调和推理等方面。从模型、数据和框架三个维度对相关技术进行分类,全面梳理了该领域的最新进展,为研究人员和从业者提供了有价值的参考资料。

Awesome_Multimodel_LLM - 多模态大语言模型资源集锦及研究动态
Github上下文学习多模态大语言模型开源项目思维链指令微调视觉推理
本项目汇集了多模态大语言模型(MLLM)相关资源,涵盖数据集、指令微调、上下文学习、思维链等多个方面。内容持续更新,跟踪MLLM领域最新进展。项目还将发布LLM和MLLM最新研究综述。这是研究人员和开发者了解MLLM前沿动态的重要参考。
LLM-Agent-Survey - 大语言模型驱动智能体的构建应用与评估综述
GithubLLM人工智能大语言模型开源项目机器学习自主代理
该研究全面综述了基于大语言模型(LLM)的自主智能体,探讨了智能体的核心组件和应用领域。作为该领域首个发表的综述论文,研究分析了LLM智能体在多个学科的应用,并讨论了评估策略,为该快速发展领域的研究人员提供了宝贵见解。
data_management_LLM - 大型语言模型训练数据管理资源汇总
Github大语言模型开源项目数据质量监督微调训练数据管理预训练
该项目汇总了大型语言模型训练数据管理的相关资源。内容涵盖预训练和监督微调阶段,探讨领域组成、数据数量和质量等关键方面。项目还收录了数据去重、毒性过滤等技术,以及不同因素间的关系研究。这些资源为优化LLM训练数据管理提供了全面参考。
Efficient-Deep-Learning - 深度神经网络压缩和加速方法综述
Github开源项目权重量化模型加速知识蒸馏神经网络压缩网络剪枝
此项目汇总了深度神经网络压缩和加速的多种方法,涵盖神经架构设计、剪枝、量化、矩阵分解和知识蒸馏等技术。重点介绍了剪枝(含彩票假设)、知识蒸馏和量化等领域的研究进展,并提供了大量相关论文摘要。项目还收录了初始化剪枝和高效视觉Transformer等相关资源,为该领域的研究和开发提供了全面参考。
LLM4Annotation - 大型语言模型在数据标注中的应用及研究进展
Github大语言模型少样本学习开源项目提示工程数据标注知识蒸馏
LLM4Annotation项目概述了大型语言模型在数据标注领域的应用研究。该项目涵盖LLM标注方法、质量评估及学习利用等方面,探讨了LLM提升数据标注效率和质量的潜力。这份综述为相关研究人员提供了系统性参考,展示了LLM在数据标注领域的最新进展。
awesome-LLM-resourses - 中文大语言模型全面资源汇总 数据处理到评估应有尽有
GithubLLMRAG大语言模型开源项目微调推理评估
该项目汇总了中文大语言模型(LLM)领域的全面资源,包含数据处理、微调、推理和评估等多个环节的开源工具。资源库涵盖最新LLM技术,并收录RAG系统和AI代理等前沿应用。项目为LLM研究者和开发者提供了丰富的工具和信息,有助于推进相关项目的开发与应用。
Instruction-Tuning-Survey - 深入探讨大型语言模型的指令微调技术及应用
DatasetsGithubInstruction TuningLarge Language ModelsModelsarXiv开源项目
本文综述了大型语言模型的指令微调技术,包括方法学、数据集构建、模型训练及多模态和领域应用。探讨了影响指令微调效果的关键因素,如数据集规模和质量等,并指出了当前技术的局限性及未来改进方向。
MINI_LLM - 完整中文大语言模型训练流程实践
DPOGithubMini-llm大模型开源项目微调预训练
MINI_LLM项目展示了完整的中文大语言模型训练流程,涵盖预训练、SFT指令微调和DPO优化阶段。该项目基于QWEN模型,利用多种数据集训练出1.4B参数规模的模型。项目详细介绍了数据处理方法、提供训练脚本,并包含多GPU训练指南,为中文大语言模型开发提供了实用参考。
LLMCompiler - 提升大语言模型性能的并行函数调用框架
GithubLLMCompiler优化编排并行函数调用开源项目效率提升模型兼容
LLMCompiler框架通过并行函数调用提升大语言模型的执行效率。它自动识别可并行任务,减少延迟和成本,同时提升准确性。用户只需提供工具和上下文示例,LLMCompiler就能优化函数调用编排。支持开源和闭源模型,包括LLaMA和OpenAI的GPT模型。LLMCompiler在不同任务中展示了显著的延迟加速、成本节省和准确性提升,是处理复杂问题的理想工具。
Meta-Llama-3.1-8B-Instruct - 创新技术实现大型语言模型微调的高效优化
GithubHuggingfaceLlama 3.1Unsloth内存优化开源项目性能提升模型模型微调
该项目开发了一种高效方法,大幅提升Llama 3.1、Gemma 2和Mistral等大型语言模型的微调效率。通过提供多个免费的Google Colab笔记本,项目使各类用户都能便捷地微调Llama-3 8B、Gemma 7B和Mistral 7B等模型。这些笔记本界面友好,适合各层次用户使用。采用此方法可将微调速度提升2-5倍,同时将内存使用降低最多70%,显著优化了资源利用。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号