Project Icon

MInference

动态稀疏注意力加速长上下文语言模型

MInference是一项新技术,通过利用长上下文语言模型注意力机制的动态稀疏性来加速预填充过程。该技术离线确定注意力头的稀疏模式,在线近似稀疏索引,并使用优化内核动态计算注意力。在A100 GPU上,MInference实现了预填充速度提升10倍,同时保持模型准确性。它支持LLaMA-3、GLM-4等多种长上下文模型,有效处理百万级别token的上下文。

AMD-Llama-135m - 轻量级语言模型实现高效推理加速
AMD-Llama-135mGithubHuggingface开源项目机器学习模型神经网络语言模型预训练
AMD-Llama-135m是一个基于LLama2架构的135M参数语言模型,在AMD Instinct MI250加速器上训练。该模型与huggingface transformers兼容,并使用LLama2相同的分词器。模型可独立使用,也可作为LLama2和CodeLlama的推理加速辅助模型。经SlimPajama和Project Gutenberg数据集预训练,以及StarCoder Python代码数据集微调后,模型在多项NLP基准测试中表现优异。通过推理加速技术,吞吐量可提升至3.88倍。
Meta-Llama-3.1-8B - Unsloth技术加速大语言模型微调并显著降低资源消耗
GithubHuggingfaceUnsloth开源项目微调性能优化模型语言模型
Meta-Llama-3.1-8B项目采用Unsloth技术优化大语言模型微调过程。该技术可将Llama 3.1、Gemma 2和Mistral等模型的微调速度提升2-5倍,同时减少70%的内存占用。项目提供多个免费Google Colab笔记本,支持Llama-3 8b、Gemma 7b和Mistral 7b等主流模型的快速微调。这些笔记本设计简单直观,初学者只需添加数据集并运行,即可获得性能显著提升的模型。
llm-action - 提升AI模型训练与推理效率的高级技术与指南
GithubLLM实战LLM训练分布式训练参数高效微调开源项目微调技术
llm-action项目为NVIDIA GPU和Ascend NPU上的大模型训练提供简易工具,详细介绍了LLM训练技术的高效微调和分布式技术。深入探究LLM微调实战与技术原理,并提供实际代码示例以供学习和应用。涵盖普适性框架与多模态微调专项技术,适合开发者与研究人员优化和扩展其AI模型的能力。
deepsparse - 优化CPU上深度学习推理的高效稀疏性使用
CPU推理DeepSparseGithubLLM支持开源项目模型量化稀疏性
DeepSparse是一个专为CPU优化的深度学习推理运行时,通过使用稀疏性显著加快模型推理速度。结合SparseML优化库,DeepSparse支持模型剪枝和量化,在CPU上实现卓越性能。支持各种计算机视觉和自然语言处理模型,包括BERT、ViT、ResNet、YOLOv5/8等。此外,DeepSparse现已支持高效的LLM推理,对稀疏量化模型实现多倍加速。可通过PyPI安装,并提供多种API便于部署。
Lamini - 提供高精度LLM推理和微调服务的企业平台
AI工具AI推理LLMLamini企业级平台模型微调
Lamini是一个面向企业的大型语言模型平台,为软件团队提供快速开发和控制LLM的能力。平台内置最佳实践,可在海量专有文档上优化模型,提高性能并确保安全。Lamini支持本地和云端部署,是首个可在AMD GPU上运行并大规模扩展的LLM平台。目前已被多家大型企业和AI初创公司采用,实现了95%的准确率,查询处理能力是vLLM的52倍。
vllm - 高性能与易用性的LLM推理与服务平台
GithubLLM服务PagedAttentionvLLM开源项目量化高吞吐量
vLLM是一个高性能且易用的LLM推理与服务平台,具备PagedAttention内存管理、CUDA/HIP图形加速、量化支持、并行解码算法及流式输出等技术优势。vLLM无缝集成Hugging Face模型,兼容多种硬件设备,支持分布式推理和OpenAI API。最新版本支持Llama 3.1和FP8量化。用户可通过pip安装并参考详细文档快速入门。
Megatron-LM - 优化GPU训练技术 加速大规模Transformer模型
GPU优化GithubMegatron-CoreMegatron-LM分布式训练大语言模型开源项目
Megatron-LM框架利用GPU优化技术实现Transformer模型的大规模训练。其Megatron-Core组件提供模块化API和系统优化,支持自定义模型训练。该项目可进行BERT、GPT、T5等模型预训练,支持数千GPU分布式训练百亿参数级模型,并提供数据预处理、模型评估和下游任务功能。
Quest - 长文本LLM推理的查询感知稀疏化框架
GithubKV缓存Quest开源项目注意力机制稀疏性长上下文LLM推理
Quest是一个创新的长文本LLM推理框架,通过在KV缓存中应用查询感知稀疏化技术,显著减少了注意力计算中的内存移动。该框架跟踪缓存页面的Key值范围,并利用Query向量评估页面重要性,仅加载最关键的KV缓存页面。实验表明,Quest可将自注意力计算速度提升至7.03倍,推理延迟降低2.23倍,同时在长依赖任务中保持高精度。
SuperNova-Medius-GGUF - 跨架构蒸馏技术打造的14B参数高性能语言模型
GithubHuggingfaceSuperNova-Medius人工智能开源项目模型知识蒸馏自然语言处理语言模型
SuperNova-Medius-GGUF是一款14B参数的语言模型,采用跨架构蒸馏技术融合Qwen2.5-72B-Instruct和Llama-3.1-405B-Instruct的优势。该模型在指令遵循和复杂推理方面表现优异,适用于客户支持、内容创作和技术辅助等场景。经多项基准测试,SuperNova-Medius性能超越同类模型,在保持资源效率的同时提供强大功能,为组织提供高质量生成式AI应用解决方案。
LongLM - 通过Self-Extend方法扩展大语言模型的上下文窗口
FlashAttentionGithubLLMLlama-3SelfExtendtransformers开源项目
LongLM项目介绍了Self-Extend方法,通过不需要调优的方式扩展大语言模型(LLM)的上下文窗口,利用其内在能力处理长上下文。此方法获得了Google I/O和ICML 2024的关注,并支持多种模型如Llama-3、Gemma和Qwen1.5。项目说明了如何安装和运行Self-Extend,并提供组选参数的指导原则及实验结果,以帮助用户应用这一技术。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

稿定AI

稿定设计 是一个多功能的在线设计和创意平台,提供广泛的设计工具和资源,以满足不同用户的需求。从专业的图形设计师到普通用户,无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑,稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合,帮助用户轻松实现创意设计。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号