Logo
Project Icon

TinyLlama

3万亿token训练的小型1.1B参数语言模型

TinyLlama语言模型AI预训练开源项目模型评估Github

TinyLlama是一个使用3万亿token预训练的1.1B参数语言模型。它与Llama 2架构兼容,可集成到现有Llama项目中。TinyLlama体积小巧,适用于计算和内存受限的场景。该项目开源了预训练和微调代码,具有高效的训练和推理性能。TinyLlama可应用于推测解码、边缘计算和实时对话等领域。

GithubGithubHuggingfaceHuggingface
介绍相关项目
llama2_xs_460M_experimental - 了解LLaMA与LLaMa 2的小型实验版本及其精简模型参数
GithubHuggingfaceLLaMa 2MMLUTokenization大模型开源开源项目模型
项目呈现Meta AI的LLaMA与LLaMa 2开源重现版本，并采用缩小的模型参数：llama1_s为1.8B，llama2_xs为460M。训练基于RedPajama数据集，使用GPT2Tokenizer分词，支持通过HuggingFace Transformers库直接加载以及文本生成。模型在MMLU任务中表现评估，其中llama2_xs_460M在0-shot和5-shot中分别得21.13和26.39的分数。
Llama-3.2-1B - 多语言大型语言模型引领自然语言处理新纪元
GithubHuggingfaceLlama 3.2Meta多语言开源项目模型生成模型社区许可
Llama 3.2是由Meta开发的多语言大型语言模型，通过优化的Transformer架构和多语言对话定制，尤其适用于问答、总结等任务。支持8种语言，可进行超越官方语言的定制训练，以适应多种自然语言生成任务。此项目展示了语言模型在商业和研究应用中日益增长的重要性，提供高效的多语言文本生成能力，助力移动AI写作助手等智能应用的发展。用户需遵循Llama 3.2社区许可规定，确保使用场景的安全性和合规性。
llama-3-8b-bnb-4bit - 大语言模型微调工具提升训练速度并降低内存使用
AI训练GithubHuggingfaceLlama 3MetaUnsloth大语言模型开源项目模型
llama-3-8b-bnb-4bit项目是一种高效的大语言模型微调方法,能将训练速度提升2-5倍,同时减少70%内存使用。支持Llama 3.1、Gemma 2和Mistral等热门模型,并提供面向初学者的Google Colab笔记本。用户可以快速微调模型并导出为GGUF、vLLM格式或上传至Hugging Face。该工具降低了LLM微调的门槛,为开发者和研究者提供了便利。
tiny-random-LlamaForCausalLM - 微型随机语言模型助力AI生成能力研究
GithubHuggingfacetransformers人工智能开源项目机器学习模型模型卡片自然语言处理
tiny-random-LlamaForCausalLM是基于Hugging Face Transformers库的小型随机语言模型。这个轻量级模型为AI研究人员和开发者提供了一个实验平台，用于探索基本的文本生成功能。尽管规模小巧，但它适用于快速原型设计、测试和教育目的，可以轻松部署和定制，为AI研究和应用开发奠定基础。
Llama-2-13b-hf - Meta开源130亿参数大语言模型 超强功能与安全性并存
GithubHuggingfaceLlama 2人工智能大语言模型开源项目机器学习模型自然语言处理
这是Meta开发的开源预训练语言模型，采用优化的Transformer架构，具有130亿参数。该模型支持4k上下文长度，经2万亿token训练，在多项基准测试中表现优异。模型可用于对话及各类自然语言生成任务，适合商业和研究用途。训练数据来自公开数据集，并通过人类反馈强化学习提升了模型性能和安全性。
Llama-Chinese - Llama大模型中文社区
GithubLlama3Llama中文社区中文预训练模型开源项目模型微调社区活动
Llama中文社区致力于提供最先进的Llama中文模型优化技术，透过持续更新的Llama2和Llama3模型，支持更精准的中文处理。社区集结全球开发者与研究者，通过丰富的在线活动、专业讲座和技术交流，共同推动中文自然语言处理技术的创新与进步。Llama中文模型在技术进步和中文自然语言处理创新方面的影响。
llama-3 - 提升对话生成效果的指令调优语言模型
GithubHuggingfaceLlama 3Meta开源项目指导调整模型语言模型责任与安全
Llama 3是由Meta开发的大型语言模型家族，提供8B和70B参数选项，经过预训练和指令调优，专为对话生成优化。模型采用Transformer架构，并通过监督微调和人类反馈强化学习，实现与人类偏好的对齐。Llama 3于2024年4月18日发布，提供商用许可证，用于商业与研究，需遵循相关使用政策。
llama3 - 基于Transformers的开源预训练语言模型
GithubHuggingfacetransformers人工智能开源项目机器学习模型模型卡片自然语言处理
Llama3是一个基于Hugging Face Transformers库开发的预训练语言模型，已上传至Hugging Face Hub。该模型可应用于多种自然语言处理任务，但目前缺乏具体的技术细节、训练数据和评估结果信息。模型卡片提供了基本信息和使用指南，同时提醒用户注意可能存在的偏见和局限性。
Meta-Llama-3-70B - Meta发布Llama 3开源大语言模型系列
GithubHuggingfaceLlama 3Meta人工智能大型语言模型开源项目模型自然语言处理
Meta推出Llama 3大语言模型系列,包含8B和70B参数规模的预训练和指令微调版本。模型在对话任务中表现出色,性能超越多个现有开源聊天模型。Llama 3采用优化的Transformer架构,使用公开在线数据训练,注重提升模型的实用性和安全性。该模型适用于英语商业和研究用途,Meta提供了使用说明、评估结果及负责任的AI开发实践指南。
Meta-Llama-3-8B - Meta发布的新一代大规模语言模型Llama 3
GithubHuggingfaceLlama 3Meta人工智能大型语言模型开源项目模型自然语言处理
Meta-Llama-3-8B是Meta发布的新一代大语言模型,拥有80亿参数规模。该模型在超过15万亿token的公开数据上预训练,经过指令微调后在对话任务中表现出色。模型采用优化的Transformer架构,支持8K上下文长度,在安全性和实用性方面进行了优化。适用于商业和研究用途,可用于开发聊天助手等多种自然语言生成应用。
相关项目
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号