Project Icon

SmolLM-135M

小型高效语言模型的新标杆,性能出色,尺寸便携

SmolLM-135M是SmolLM系列中的小型语言模型,基于Cosmo-Corpus数据集训练。该模型仅有135M参数,但在常识推理和世界知识等基准测试中表现优异。SmolLM-135M提供全精度、半精度和量化版本,可灵活部署于各种硬件环境。作为高效小型语言模型的代表,SmolLM-135M在保持小巧体积的同时,展现出强大的文本生成能力。

SmolLM-1.7B - 小型化设计与处理能力兼备的语言模型,适用于多个应用场景
Cosmo-CorpusGithubHuggingfaceSmolLMTransformer开源项目模型生成模型语言模型
SmolLM系列语言模型基于Cosmo-Corpus高质量数据集开发,提供135M、360M和1.7B参数选项,表现出色的常识推理和广泛知识评估能力。模型通过多类型内容数据集训练,支持8位和bfloat16位精度,可在CPU和多GPU环境中运行。需注意,内容生成的准确性和一致性可能受限,仅供辅助使用。可通过HuggingFace平台便捷部署。
SmolLM-360M - 3.6亿参数的高效语言模型 专注常识推理和知识理解
GithubHuggingfaceSmolLM人工智能开源项目模型模型训练神经网络语言模型
SmolLM-360M是一款拥有3.6亿参数的高效语言模型,基于Cosmo-Corpus数据集训练而成。该模型利用Cosmopedia v2合成教材、Python-Edu教育样本和FineWeb-Edu网络教育资源等高质量数据,在常识推理和世界知识等多项基准测试中表现出色。SmolLM-360M支持CPU/GPU部署,并提供8位和4位量化版本以优化内存使用。这款模型主要面向英语内容生成和理解,可作为AI辅助工具在多种场景中应用。
SmolLM-135M-Instruct - 轻量级指令语言模型的高效实现
GithubHuggingfaceSmolLM人工智能开源项目机器学习模型模型训练语言模型
SmolLM-135M-Instruct是一个1.35亿参数的轻量级指令语言模型。经过高质量教育数据训练和公开数据集微调后,模型具备基础知识问答、创意写作和Python编程能力。支持MLC、GGUF等多种本地部署方案,可通过Transformers框架调用。v0.2版本进一步优化了对话质量和任务完成能力。
AMD-Llama-135m - 轻量级语言模型实现高效推理加速
AMD-Llama-135mGithubHuggingface开源项目机器学习模型神经网络语言模型预训练
AMD-Llama-135m是一个基于LLama2架构的135M参数语言模型,在AMD Instinct MI250加速器上训练。该模型与huggingface transformers兼容,并使用LLama2相同的分词器。模型可独立使用,也可作为LLama2和CodeLlama的推理加速辅助模型。经SlimPajama和Project Gutenberg数据集预训练,以及StarCoder Python代码数据集微调后,模型在多项NLP基准测试中表现优异。通过推理加速技术,吞吐量可提升至3.88倍。
MiniLM-L12-H384-uncased - 轻量快速的预训练语言模型实现BERT级别性能表现
BERTGithubHuggingfaceMiniLM开源项目模型模型压缩深度学习自然语言处理
MiniLM-L12-H384-uncased通过模型压缩技术将参数量降至33M,在保持与BERT相当性能的同时,运行速度提升2.7倍。模型在SQuAD 2.0和GLUE等自然语言理解任务中表现出色,可直接替代BERT,适用于对模型体积和运行效率敏感的场景。
Multilingual-MiniLM-L12-H384 - 紧凑高效的多语言预训练模型助力跨语言自然语言处理
GithubHuggingfaceMiniLM多语言模型开源项目模型模型压缩自然语言处理跨语言任务
Multilingual-MiniLM-L12-H384是一款小型多语言预训练模型,采用12层结构和384维隐藏单元,transformer参数仅2100万。该模型在XNLI和MLQA等跨语言任务中表现出色,支持15种语言,同时保持了较小的模型规模。它融合了BERT的架构设计和XLM-R的分词技术,适用于各类需要高效多语言处理的应用场景。
SmolLM-1.7B-Instruct - SmolLM-1.7B-Instruct 模型的技术特性与应用场景分析
GithubHuggingfaceSmolLM开源项目微调性能优化数据集模型语言模型
SmolLM-1.7B-Instruct 是一款包含135M、360M和1.7B参数的小型语言模型,通过高质量数据集微调而成。v0.2版本在主题保持和回答提示方面表现优越。支持多种应用方式,包括本地和浏览器演示。但需注意,该模型可能并非完全精准,建议作为辅助工具应用于常识问答、创造性写作和基础编程等场景。
MobileLLM - 轻量高效的移动设备语言模型
AI模型GithubMobileLLM开源项目深度学习神经网络语言模型
MobileLLM是一个针对移动设备优化的大型语言模型项目。该模型通过SwiGLU激活函数、深窄架构、嵌入共享和分组查询注意力等技术,在亿级参数规模下实现了高性能。MobileLLM在零样本常识推理任务中表现出色,不仅在125M和350M参数规模上超越了现有最先进模型,还成功扩展至600M、1B和1.5B参数规模,展示了其在移动设备应用中的潜力。
mMiniLMv2-L12-H384-distilled-from-XLMR-Large - 轻量级多语言自然语言处理模型
GithubHuggingfaceMicrosoftMiniLMv2多语言模型开源项目机器学习模型自然语言处理
mMiniLMv2-L12-H384-distilled-from-XLMR-Large是一个基于Microsoft UniLM项目的多语言自然语言处理模型。该模型通过知识蒸馏技术从XLM-R大型模型中提取知识,在维持高性能的同时大幅缩小了模型体积。作为一个轻量级模型,它能够适应文本分类、问答系统和序列标注等多种NLP任务,尤其适合在计算资源有限的环境中使用。
LaMini-T5-738M - 高效精简的738M参数T5语言模型
GithubHuggingfaceLaMini-T5-738M人工智能开源项目指令微调模型自然语言处理语言模型
LaMini-T5-738M是一个经过258万条指令数据集训练的T5语言模型,总参数量为738M。作为LaMini-LM系列成员之一,该模型针对自然语言指令处理进行了优化,在NLP任务评测中表现良好。模型支持通过HuggingFace pipeline快速部署使用。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号