Logo
Project Icon

TinyLlama

3万亿token训练的小型1.1B参数语言模型

TinyLlama语言模型AI预训练开源项目模型评估Github

TinyLlama是一个使用3万亿token预训练的1.1B参数语言模型。它与Llama 2架构兼容,可集成到现有Llama项目中。TinyLlama体积小巧,适用于计算和内存受限的场景。该项目开源了预训练和微调代码,具有高效的训练和推理性能。TinyLlama可应用于推测解码、边缘计算和实时对话等领域。

GithubGithubHuggingfaceHuggingface
介绍相关项目
AMD-Llama-135m - 轻量级语言模型实现高效推理加速
AMD-Llama-135mGithubHuggingface开源项目机器学习模型神经网络语言模型预训练
AMD-Llama-135m是一个基于LLama2架构的135M参数语言模型，在AMD Instinct MI250加速器上训练。该模型与huggingface transformers兼容，并使用LLama2相同的分词器。模型可独立使用，也可作为LLama2和CodeLlama的推理加速辅助模型。经SlimPajama和Project Gutenberg数据集预训练，以及StarCoder Python代码数据集微调后，模型在多项NLP基准测试中表现优异。通过推理加速技术，吞吐量可提升至3.88倍。
llama3-chinese - 基于Meta-Llama-3-8B的中英双语大语言模型
GithubLlama3-Chinese人工智能大语言模型开源项目自然语言处理
Llama3-Chinese是基于Meta-Llama-3-8B训练的中英双语大语言模型。该项目使用高质量多语言数据和先进训练方法，提升了模型的对话能力。项目提供完整的模型使用指南，包括下载、合并、推理和部署，并配有Web和CLI演示，方便研究者和开发者使用。
Llama-3.2-1B-Instruct-GGUF - 多语言模型优化，提升对话和信息处理效率
GithubHuggingfaceLlama 3.2优化多语言对话开源项目模型生成模型行业基准
这个项目提供了经过优化的多语言大语言模型，提升了对话应用的效果和效率。Llama 3.2系列在1B和3B规格中进行了预训练及指令优化，能够处理信息提取和文本总结等多种任务。该模型在常用的行业基准测试中表现优于许多其他开源和闭源模型。SanctumAI通过量化增加了模型的操作效率，并提供多种量化选项以适应不同的硬件需求。在多语言对话的使用案例中，这些优化后的模型确保了良好的性能表现。
Llama-3.2-1B-Instruct-GGUF - 多语言大型语言模型提升对话与摘要任务表现
GithubHuggingfaceLlama 3.2Meta多语言大语言模型开源项目模型社区许可协议
Meta的多语言大模型Llama 3.2支持多种语言，优化对话与摘要任务。模型提供1B和3B版本，通过监督微调和人类反馈强化学习提升互动有用性与安全性。采用优化的Transformer架构，并利用Grouped-Query Attention提升推理能力。开发者可以根据需求进行模型微调。模型发布于2024年9月25日，采用商用许可协议，建议在商业与研究中谨慎使用。
open_llama_3b - 开源复现LLaMA架构的大型语言模型
GithubHuggingfaceOpenLLaMA人工智能大语言模型开源开源项目模型自然语言处理
OpenLLaMA是一个开源项目，旨在复现LLaMA大型语言模型。它基于Apache 2.0许可，提供了7B和3B模型（1万亿标记训练）以及13B模型预览版（6000亿标记训练）。项目发布了PyTorch和JAX格式的预训练权重，并与原始LLaMA进行了性能对比。OpenLLaMA使用RedPajama数据集训练，整体性能与LLaMA和GPT-J相当，部分任务表现更佳。
Taiwan-LLM - 专为繁体中文与英语环境设计的高性能语言模型，具有70亿参数规模
GithubLlama-3-Taiwan-70BNLP基准NVIDIA传统中文开源项目聊天机器人
Llama-3-Taiwan-70B是专为繁体中文与英语环境设计的高性能语言模型，具有70亿参数规模，涵盖多个行业领域。该模型透过NVIDIA NeMo技术优化，已完成在台北一号的NVIDIA DGX H100系统上的训练，获多个企业支持。
Llama-3.2-1B-Instruct-AWQ - Meta发布的开源多语言大型语言模型
GithubHuggingfaceLlama 3.2Meta多语言大语言模型开源项目模型自然语言生成
Llama-3.2-1B-Instruct是Meta开发的多语言大型语言模型，采用改进的transformer架构，支持128k上下文长度。该模型在对话、检索和摘要任务上表现优异，支持8种语言，包括英语、德语和法语等。它提供1B和3B两种参数规模，可通过transformers库或原生llama代码库部署，适用于商业和研究用途。
Llama-2-7b-chat-hf - Meta开发的70亿参数对话语言模型
GithubHuggingfaceLlama 2人工智能元宇宙大语言模型开源项目模型自然语言处理
Llama-2-7b-chat-hf是Meta开发的大型语言模型,专为对话场景优化。该模型拥有70亿参数,采用优化的Transformer架构,通过监督微调和人类反馈强化学习提高了效果。它适用于助手式聊天等自然语言生成任务,在多项基准测试中表现出色,有用性和安全性可与部分闭源模型相媲美。
Meta-Llama-3.1-8B-Instruct - 创新技术实现大型语言模型微调的高效优化
GithubHuggingfaceLlama 3.1Unsloth内存优化开源项目性能提升模型模型微调
该项目开发了一种高效方法，大幅提升Llama 3.1、Gemma 2和Mistral等大型语言模型的微调效率。通过提供多个免费的Google Colab笔记本，项目使各类用户都能便捷地微调Llama-3 8B、Gemma 7B和Mistral 7B等模型。这些笔记本界面友好，适合各层次用户使用。采用此方法可将微调速度提升2-5倍，同时将内存使用降低最多70%，显著优化了资源利用。
TinyLlama-1.1B-Chat-v1.0-marlin - TinyLlama-1.1B量化推理解决方案
GithubHuggingfaceNeural MagicTinyLlama-1.1B-Chat-v1.0基于模型开源项目推理模型量化
本项目提供了一种以TinyLlama-1.1B为基础的量化聊天模型，运用GPTQ技术实现内存优化与推理加速，支持高效的4位推理。借助nm-vllm引擎，用户能快速实现部署，并可通过Python管道进行本地推理。详细的量化与Marlin格式转换流程保障了模型的高效表现。此外，Neural Magic的Slack社区欢迎加入以获取支持和交流更多关于神经网络及AI的资讯。
相关项目
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

稿定AI

稿定设计 是一个多功能的在线设计和创意平台，提供广泛的设计工具和资源，以满足不同用户的需求。从专业的图形设计师到普通用户，无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑，稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合，帮助用户轻松实现创意设计。

使用协议隐私政策广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号