SmolLM-135M

小型高效语言模型的新标杆，性能出色，尺寸便携

SmolLM 语言模型 Huggingface 模型机器学习人工智能 Github 开源项目自然语言处理

SmolLM-135M是SmolLM系列中的小型语言模型，基于Cosmo-Corpus数据集训练。该模型仅有135M参数，但在常识推理和世界知识等基准测试中表现优异。SmolLM-135M提供全精度、半精度和量化版本，可灵活部署于各种硬件环境。作为高效小型语言模型的代表，SmolLM-135M在保持小巧体积的同时，展现出强大的文本生成能力。

访问官网

Github

Huggingface

介绍相关项目

MiniCPM - 轻量级大语言模型实现高性能端侧部署

GithubMiniCPM多模态开源模型开源项目模型量化端侧大语言模型

MiniCPM是一系列高效的端侧大语言模型，仅有2.4B非词嵌入参数。经过优化后，在多项评测中表现优异，甚至超越了一些参数量更大的模型。该项目支持多模态功能，可在移动设备上流畅运行。MiniCPM开源了多个版本，涵盖文本、多模态、量化和长文本等应用场景，适用于学术研究和特定商业用途。这一开源项目由面壁智能与清华大学自然语言处理实验室联合开发。

SqueezeLLM - 硬件资源优化下的大语言模型量化服务

GithubSqueezeLLM内存优化大语言模型开源项目模型压缩量化

SqueezeLLM通过密集与稀疏量化方法降低大语言模型的内存占用并提升性能，将权重矩阵拆分为易量化的密集组件和保留关键部分的稀疏组件，实现更小内存占用、相同延迟和更高精度。支持包括LLaMA、Vicuna和XGen在内的多个热门模型，提供3位和4位量化选项，适用于不同稀疏度水平。最新更新涵盖Mistral模型支持和自定义模型量化代码发布。

mlc-llm - 通用大语言模型高性能部署引擎

AI模型优化GithubMLC LLMMLCEngine开源项目机器学习编译器高性能部署

MLC LLM是一款用于大语言模型的高性能部署引擎，支持用户在各种平台上开发、优化和部署AI模型。核心组件MLCEngine通过REST服务器、Python、JavaScript、iOS和Android等接口提供OpenAI兼容的API，支持AMD、NVIDIA、Apple和Intel等多种硬件平台。项目持续优化编译器和引擎，与社区共同发展。

distil-small.en - 轻量快速的英语语音识别模型,保持高准确率

Distil-WhisperGithubHuggingfaceTransformers开源项目模型模型压缩语音识别高性能

distil-small.en是Whisper模型的轻量化版本,参数量为166M。相比原始模型,速度提升6倍,体积减少49%,在外部数据集上的识别准确率仅降低1%。支持短长音频转录,可通过Transformers等多种框架使用。适合资源受限场景,采用编码器-解码器架构,通过精简解码器提升推理效率。

AQLM - 加性量化技术实现大型语言模型高效压缩

AQLMGithubPyTorch大语言模型开源项目推理量化

AQLM项目开发了一种名为加性量化的新技术，可将大型语言模型压缩至原规模的1/16左右，同时基本保持原始性能。该技术适用于LLaMA、Mistral和Mixtral等多种模型架构，并提供了预量化模型。项目包含PyTorch实现代码、使用教程和推理优化方案，为大规模语言模型的实际应用提供了新思路。

TinyLlama-1.1B-intermediate-step-1195k-token-2.5T - TinyLlama项目中的1.1B模型实现高效计算

GithubHuggingfaceLLama 2TinyLlama优化开源项目模型模型参数预训练

TinyLlama通过创新方法，在2.5万亿tokens数据集上实现预训练，紧凑的1.1B参数设计提高了计算和内存效率，适用于多种开源项目。

ChatLM-mini-Chinese - 小参数中文对话模型，支持低显存预训练，优化SFT和DPO性能

ChatLM-Chinese-0.2BGithubHuggingfaceRLHF优化SFT微调开源项目预训练

ChatLM-mini-Chinese是一个小参数中文生成式语言模型项目。模型参数为0.2B，最低4GB显存即可实现预训练，512MB显存可进行推理。项目公开预训练和优化数据集，包括SFT微调和DPO偏好优化，支持多种下游任务。基于Huggingface NLP框架，自实现trainer，支持单机单卡及多卡训练，并可断点续训。此项目优化了内存和显存的使用，为硬件资源不足的用户提供了一种高效的中文对话解决方案。

llama-68m - LLaMA类轻量级语言模型助力高效推理

GithubHuggingfaceLLaMA开源项目推理加速文本生成模型模型训练自然语言处理

llama-68m是一个参数仅为6800万的LLaMA类模型，通过Wikipedia和部分C4数据集训练而成。作为SpecInfer论文中的小型推测模型基础，它旨在通过推测性推理和标记树验证技术加速大语言模型服务。尽管参数量小，但设计目标是提高推理效率。由于尚未进行全面评估，建议谨慎使用。

Mistral-NeMo-Minitron-8B-Base - 高效压缩的大规模语言模型适用于多种自然语言生成任务

GithubHuggingfaceMistral-NeMo人工智能大语言模型开源项目模型模型压缩自然语言处理

Mistral-NeMo-Minitron-8B-Base是一个经过剪枝和蒸馏的基础文本生成模型。它采用4096维嵌入、32个注意力头、11520维MLP中间层和40层结构,结合分组查询注意力和旋转位置编码技术。该模型在MMLU等基准测试中表现优异,适用于多种自然语言生成任务。支持8k字符输入,可通过Transformers库轻松使用。

t5-small - T5-Small：小参数文本转换模型优化NLP任务

GithubHuggingfaceT5 Small大规模预训练开源项目情感分析文本转换机器翻译模型

T5-Small是Google开发的具有6000万参数的语言模型，通过统一文本转换框架处理包括机器翻译、文档摘要、问答和分类在内的多种NLP任务。采用C4语料库进行预训练，该模型支持英语、法语、罗马尼亚语和德语，并结合无监督和有监督任务，以实现高效的转移学习。T5-Small不仅可解决经典NLP问题，还适用于文本回归任务，更多信息可参考相关文献。

项目侧边栏1

项目侧边栏2

推荐项目

Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com

@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号