SmolLM-360M

3.6亿参数的高效语言模型专注常识推理和知识理解

Github 神经网络模型训练模型开源项目语言模型 SmolLM Huggingface 人工智能

SmolLM-360M是一款拥有3.6亿参数的高效语言模型，基于Cosmo-Corpus数据集训练而成。该模型利用Cosmopedia v2合成教材、Python-Edu教育样本和FineWeb-Edu网络教育资源等高质量数据，在常识推理和世界知识等多项基准测试中表现出色。SmolLM-360M支持CPU/GPU部署，并提供8位和4位量化版本以优化内存使用。这款模型主要面向英语内容生成和理解，可作为AI辅助工具在多种场景中应用。

Github

Huggingface

介绍相关项目

mt0-small - 支持百种语言的神经网络文本生成器

GithubHuggingfacemt0-small多语言模型开源项目机器翻译模型自然语言处理语言推理

mt0-small是一个支持百种语言的文本生成模型，主要应用于自然语言推理、指代消解和句子补全等任务。模型可实现跨语言情感分析、问答系统和故事生成等功能，适用于自然语言处理研究与开发。

Llama-3.2-11B-Vision-Instruct - 高效训练和部署具有多语言能力的大规模语言模型

GithubHuggingfaceLlama 3.2MetaUnsloth大语言模型开源项目模型模型微调

Llama-3.2-11B-Vision-Instruct是Meta开发的多语言大规模视觉语言模型,具备强大的对话和图像理解能力。该项目采用Unsloth技术,实现训练速度提升2.4倍,内存使用减少58%。模型支持英语、德语、法语等多种语言,适用于对话、检索、摘要等任务。项目提供简单易用的Colab笔记本,方便开发者进行模型微调和部署。Llama-3.2系列在多项行业基准测试中表现出色,超越了许多开源和闭源的对话模型。

SmallLanguageModel-project - 自主构建完整的语言模型，从数据采集到训练一步到位

GithubPythonSmallLanguageModel依赖安装开源项目数据处理模型训练

该项目提供全面的构建语言模型指南，包括数据收集、预处理及模型训练。项目涵盖从数据采集到训练多种模型（如BERT、GPT、Seq-2-Seq）的全部必要工具和步骤。适用于Python 3.8及以上版本，通过详细的教程和文档帮助开发者高效实现模型训练与应用。

all_datasets_v4_MiniLM-L6 - 大规模数据集训练的高效句向量模型用于多语言语义表示

FlaxGithubHuggingfaceNLP句子嵌入对比学习开源项目模型语义相似度

all_datasets_v4_MiniLM-L6是一个基于MiniLM-L6预训练模型的句向量模型，通过10亿句对数据集微调而成。该模型采用对比学习方法，可生成捕捉句子语义信息的向量表示。适用于信息检索、聚类和句子相似度等任务，可通过SentenceTransformers库使用。模型在TPU上训练540k步，批量大小为1024，性能优异，应用范围广泛。

cogvlm-chat-hf - 开源视觉语言模型CogVLM在多项跨模态基准测试中超越PaLI-X 55B

CogVLMGithubHuggingface图像识别多模态开源开源项目模型视觉语言模型

CogVLM是一款开源视觉语言模型，具有100亿视觉参数和70亿语言参数。在NoCaps、Flicker30k等10个经典跨模态基准测试中，CogVLM实现了最先进的性能，部分超越PaLI-X 55B。其架构包括视觉变换器编码器、MLP适配器、预训练语言模型和视觉专家模块。CogVLM能进行多模态对话，适用于图像描述和视觉问答等任务。该模型对学术研究开放，经登记后可免费用于商业用途。

Yi-Ko-6B - 多语言大规模自动回归模型优化文本生成性能

GithubHuggingfaceYi-Ko-6B参数开源项目文本生成模型自回归模型语言模型

Yi-Ko-6B项目通过引入韩语和英语语料库，以及扩展词汇，实现对预训练模型的增强。该模型基于Llama-2优化的transformer架构，并拥有6亿参数，专注于文本生成任务。在AI2 Reasoning Challenge、HellaSwag和MMLU等多项基准测试中，模型展现了突出的多语言处理能力。此外，它还能高效执行韩语句子的词分段与生成。

glm-4v-9b - 开源多模态AI模型GLM-4V-9B展现卓越性能

GLM-4V-9BGithubHuggingface图像描述多模态模型开源项目模型自然语言处理视觉理解

GLM-4V-9B是一款由智谱AI开发的开源多模态人工智能模型，支持1120x1120高分辨率下的中英双语多轮对话。该模型在综合能力、感知推理、文字识别和图表理解等多个领域表现优异，与GPT-4-turbo、Gemini 1.0 Pro等主流模型相比具有竞争力。GLM-4V-9B支持8K上下文长度，为研究者和开发者提供了强大的视觉理解和语言处理能力。

TinyLlama - 3万亿token训练的小型1.1B参数语言模型

AI预训练GithubTinyLlama开源项目模型评估语言模型

TinyLlama是一个使用3万亿token预训练的1.1B参数语言模型。它与Llama 2架构兼容,可集成到现有Llama项目中。TinyLlama体积小巧,适用于计算和内存受限的场景。该项目开源了预训练和微调代码,具有高效的训练和推理性能。TinyLlama可应用于推测解码、边缘计算和实时对话等领域。

stablelm-2-1_6b-chat - 1.6亿参数的对话模型

GithubHuggingfaceStableLM 2 Chat 1.6B使用限制开源项目性能评估模型训练数据集语言模型

StableLM 2 Chat 1.6B由Stability AI创建，是基于transformer解码器架构的自然语言模型，专为对话场景设计。模型使用多种公开和合成数据集训练，并运用直接偏好优化算法。OpenLLM排行榜上的出色表现使其适用于对话应用，建议配置输入输出分类器以提升安全性和降低偏误，适合非商业用途。

glm-4-9b - 开源预训练模型GLM-4-9B实现多语言及多任务处理能力

GLM-4-9BGithubHuggingface多语言支持开源模型开源项目模型自然语言处理预训练模型

作为GLM-4系列的开源版本，GLM-4-9B在语义理解、数学计算、逻辑推理等方面展现出优秀性能。模型支持26种语言处理、多轮对话、代码执行及工具调用功能，具备128K上下文处理能力。其扩展版本包括支持1M上下文的Chat版本和支持视觉任务的GLM-4V-9B多模态模型。

项目侧边栏1

项目侧边栏2

推荐项目

Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com

@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号