AMD-Llama-135m

轻量级语言模型实现高效推理加速

语言模型神经网络 Huggingface 预训练 AMD-Llama-135m Github 模型开源项目机器学习

AMD-Llama-135m是一个基于LLama2架构的135M参数语言模型，在AMD Instinct MI250加速器上训练。该模型与huggingface transformers兼容，并使用LLama2相同的分词器。模型可独立使用，也可作为LLama2和CodeLlama的推理加速辅助模型。经SlimPajama和Project Gutenberg数据集预训练，以及StarCoder Python代码数据集微调后，模型在多项NLP基准测试中表现优异。通过推理加速技术，吞吐量可提升至3.88倍。

Github

Huggingface

介绍相关项目

Llama-3.1-8B - Meta推出的多语言大型语言模型支持128K超长上下文

GithubHuggingfaceLlama 3.1Meta人工智能多语言大语言模型开源项目模型

Llama-3.1-8B是Meta公司推出的多语言大型语言模型,采用优化的Transformer架构,支持128K超长上下文。该模型在8种语言中进行预训练和指令微调,在通用对话和多语言任务上表现优异。Llama-3.1-8B适用于助手式聊天、自然语言生成等商业和研究场景,并提供自定义商业许可证。用户在遵守使用政策的前提下可广泛应用该模型。

Llama-3.2-1B-Instruct-bnb-4bit - Unsloth技术加速大型语言模型微调

GithubHuggingfaceLlama 3.2TransformersUnsloth开源项目性能优化模型模型微调

本项目展示了利用Unsloth技术微调Llama 3.2等大型语言模型的方法。该技术可将微调速度提升2-5倍，同时降低70%内存占用。项目为Llama 3.2、Gemma 2和Mistral等多个模型提供免费Google Colab笔记本，便于用户进行模型微调。这一方法适合各层级用户，能有效提升模型训练效率。

LIMA2-7b-hf - Llama 2语言模型的功能概述与应用

GithubHuggingfaceLlama 2Meta大型语言模型安全性开源项目文本生成模型

Llama 2是由Meta推出的大型语言模型系列，具备7亿到70亿参数，专为对话场景设计。Llama 2在多项评测中表现优异，能够与闭源模型如ChatGPT媲美。该模型采用优化的transformer架构，通过监督微调和人类反馈的强化学习来提升效能。使用前需遵守Meta许可条款，支持用于英语的商业和研究。

Llama-3.2-1B-Instruct-GGUF - 多语言大型语言模型提升对话与摘要任务表现

GithubHuggingfaceLlama 3.2Meta多语言大语言模型开源项目模型社区许可协议

Meta的多语言大模型Llama 3.2支持多种语言，优化对话与摘要任务。模型提供1B和3B版本，通过监督微调和人类反馈强化学习提升互动有用性与安全性。采用优化的Transformer架构，并利用Grouped-Query Attention提升推理能力。开发者可以根据需求进行模型微调。模型发布于2024年9月25日，采用商用许可协议，建议在商业与研究中谨慎使用。

Llama-3.1-Nemotron-70B-Instruct-HF-GGUF - NVIDIA推出支持128K上下文的70B参数指令调优语言模型

GithubHuggingfaceLlama 3.1Nvidia大语言模型开源项目指令微调模型量化模型

NVIDIA基于Llama 3.1框架开发的Nemotron-70B指令模型采用GGUF量化格式，具备128K上下文处理能力。模型在Arena Hard评测中获得85.0分，AlpacaEval 2 LC达到57.6分，GPT-4-Turbo MT-Bench评分8.98。通过优化提升了语言理解和生成能力，可应用于多样化的自然语言处理场景。

llama - Meta开源的大语言模型

AI大模型AI工具AI开发Llama 2Llama堆栈Llama模型PurpleLlama模型训练热门

meta-llama/llama在GitHub提供先进的Llama模型推理代码，开发者可以参与贡献，助力项目发展。该平台允许下载各种预训练及微调的Llama大型语言模型，并提供完整的模型权重及实施代码，推动技术创新与企业发展。

Llama-3.2-3B-Instruct-uncensored-LoRA_final-Q4_K_M-GGUF - 高效微调的3B参数英文指令型大语言模型

AI开发GithubHuggingfaceLlamaUnsloth开源项目模型模型训练深度学习

Llama-3.2-3B-Instruct-uncensored-LoRA_final-Q4_K_M-GGUF是基于Llama-3.2-3B-Instruct-uncensored模型微调的开源大语言模型。该模型使用Unsloth和Huggingface的TRL库训练，提高了2倍的训练速度。由PurpleAILAB开发，采用Apache 2.0许可证，主要用于英语文本生成任务。这是一个参数量为3B的指令型模型，适合需要快速部署的应用场景。

Llama-3.2-1B-Instruct-AWQ - Meta发布的开源多语言大型语言模型

GithubHuggingfaceLlama 3.2Meta多语言大语言模型开源项目模型自然语言生成

Llama-3.2-1B-Instruct是Meta开发的多语言大型语言模型，采用改进的transformer架构，支持128k上下文长度。该模型在对话、检索和摘要任务上表现优异，支持8种语言，包括英语、德语和法语等。它提供1B和3B两种参数规模，可通过transformers库或原生llama代码库部署，适用于商业和研究用途。

exllama - 为现代GPU优化的快速内存高效Llama实现

AI模型CUDAExLlamaGPU加速Github开源项目深度学习

ExLlama是一个基于Python/C++/CUDA的独立实现,针对4位GPTQ权重进行了优化,旨在提高现代GPU上的运行速度和内存效率。该项目支持NVIDIA 30系列及更新的GPU,可处理Llama、Koala和WizardLM等多种大型语言模型。ExLlama具备基准测试、聊天机器人示例和Web界面等功能,同时支持Docker部署。尽管仍在开发中,项目已展现出卓越的性能和效率。

Llama-3.1-405B-Instruct-FP8 - Meta开发的多语言大规模语言模型，支持对话和文本生成

GithubHuggingfaceLlama 3.1人工智能元模型多语言大语言模型开源项目模型

Llama-3.1-405B-Instruct-FP8是Meta公司开发的多语言大规模语言模型。该模型支持8种语言的文本输入输出，具有128K的上下文长度，采用优化的Transformer架构。模型在多语言对话和文本生成任务中表现优异，适用于助手式聊天和自然语言处理等领域。Meta为该模型提供了商业许可证，允许在遵守使用政策的前提下应用于商业和研究用途。

项目侧边栏1

项目侧边栏2

推荐项目

Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com

@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号