Project Icon

mamba-130m-hf

轻量级Mamba模型为序列建模提供高效替代方案

mamba-130m-hf是基于Mamba架构的轻量级语言模型,专为因果语言建模设计。该模型与Transformers库兼容,支持高效文本生成和序列建模。通过创新的状态空间模型结构,mamba-130m-hf在保持较小参数量的同时展现出卓越性能。模型可用于直接文本生成,也支持通过PEFT等技术进行微调以适应特定任务。其轻量级设计和强大功能使其成为序列建模任务的理想选择。

mamba-chat - 基于状态空间模型架构的创新聊天AI
GithubMamba-Chat开源项目微调状态空间模型聊天语言模型
Mamba-Chat是一个基于状态空间模型架构的聊天语言模型,区别于传统的Transformer架构。该项目提供模型训练和微调代码,采用修改后的Huggingface Trainer类。Mamba-Chat以Mamba-2.8B为基础,在ultrachat_200k数据集的部分样本上进行了微调。项目支持通过命令行或Gradio应用与模型交互,并提供进一步微调的指南。Mamba-Chat为自然语言处理领域引入了新思路,展示了非Transformer架构在对话系统中的应用潜力。
SmolLM-135M - 小型高效语言模型的新标杆,性能出色,尺寸便携
GithubHuggingfaceSmolLM人工智能开源项目机器学习模型自然语言处理语言模型
SmolLM-135M是SmolLM系列中的小型语言模型,基于Cosmo-Corpus数据集训练。该模型仅有135M参数,但在常识推理和世界知识等基准测试中表现优异。SmolLM-135M提供全精度、半精度和量化版本,可灵活部署于各种硬件环境。作为高效小型语言模型的代表,SmolLM-135M在保持小巧体积的同时,展现出强大的文本生成能力。
MambaVision - 高效且灵活的视觉骨干网络,适用于各种分辨率的图像处理
GithubHugging FaceMambaVision图像分类开源项目深度学习计算机视觉
MambaVision采用混合Mamba-Transformer架构,结合自注意力和混合块,实现了卓越的图像分类和特征提取效果。其创新的对称路径设计提升了全局上下文的建模能力,并提供多种预训练模型。MambaVision支持多种分辨率图像处理,适用于分类、检测和分割等任务。最新模型支持Hugging Face和pip包,详细信息见[官网](https://huggingface.co/collections/nvidia/mambavision-66943871a6b36c9e78b327d3)。
Vim - 基于双向状态空间模型的高效视觉表示学习
GithubVision Mamba图像分类开源项目深度学习状态空间模型视觉表示学习
Vision Mamba是一种基于双向Mamba块的新型视觉主干网络。该模型通过位置嵌入和双向状态空间模型处理图像序列,在ImageNet分类、COCO目标检测和ADE20k语义分割等任务上表现优异。与DeiT等视觉Transformer相比,Vision Mamba不仅性能更高,还大幅提升了计算和内存效率。其在高分辨率图像特征提取方面的出色表现,使其有潜力成为新一代视觉基础模型的核心架构。
cobra - 高效推理的多模态大语言模型扩展
CobraGithubMamba多模态大语言模型开源项目视觉语言模型高效推理
Cobra项目是一个基于Mamba架构的多模态大语言模型,旨在实现高效推理。该模型支持文本和图像输入,提供预训练权重、训练代码和推理脚本。Cobra在处理视觉语言任务时保持高性能,为研究人员和开发者提供了实用的工具。项目包括模型加载、图像处理和文本生成等功能,便于用户快速上手和应用。
MambaOut - 高效视觉模型展示简洁架构卓越性能
GithubMambaOut图像分类开源项目深度学习神经网络计算机视觉
MambaOut是一种新型视觉模型架构,通过堆叠门控CNN块构建,无需使用复杂的状态空间模型。在ImageNet图像分类任务中,它的性能超越了现有的视觉Mamba模型,同时具有较低的参数量和计算复杂度。该项目提供了从轻量级MambaOut-Femto到大型MambaOut-Base的多个预训练模型,在准确率和效率间实现平衡。研究人员可利用提供的代码和教程复现结果或应用于自身任务。
MambaVision-T-1K - 提高视觉模型长距离空间依赖的处理能力
GithubHuggingfaceMambaVision变换器图像分类开源项目模型特征提取计算机视觉
MambaVision是一个混合视觉模型,将Mamba与Transformer的优点结合,重新设计后的Mamba通过引入自注意力机制有效捕获长距离空间依赖。该模型在Top-1准确率和吞吐量上表现突出,创造了新的性能标准。用户可以通过简单的安装和代码导入来使用其图像分类和特征提取功能,满足多样化的应用需求,同时提供阶段性和平均池化特征输出。
llama-160m - 160M参数的轻量级LLaMA模型用于快速文本生成
GithubHuggingfaceLLaMASpecInfer开源项目模型模型训练深度学习自然语言处理
llama-160m是一个轻量级LLaMA类模型,拥有1.6亿参数,通过维基百科等数据集训练而成。作为SpecInfer论文中的小型推测模型基础,它在文本生成任务中展现潜力。尽管尚未全面评估,该模型为研究人员提供了快速推理和验证的工具,有望加速大型语言模型的服务效率。
h2o-danube3-500m-base - 500M参数的大规模语言模型,支持离线文本生成
GPTGithubH2O.aiHuggingface大语言模型开源项目模型模型架构转化器
由H2O.ai推出的h2o-danube3-500m模型,是一个大规模语言模型,采用Llama 2架构调整及500M参数设计。模型支持原生离线运行,尤其适用于手机设备,并集成Mistral分词器,拥有32,000词汇量及8,192长度的上下文生成能力。在支持transformers库的环境中,模型可在GPU设备上有效运行,并且支持量化和多GPU分片处理。重要提醒用户在使用模型生成的内容时保持审慎态度并自行承担责任。
LIMA-13b-hf - 基于Transformer架构的自动回归语言模型,用于自然语言处理的研究
GithubHuggingfaceLLaMA偏见评估大语言模型开源项目模型模型性能自然语言处理
LLaMA是由Meta AI的FAIR团队开发的基于Transformer架构的自动回归语言模型,专为自然语言处理和机器学习研究人员而设计。该模型提供7B、13B、33B和65B参数的多种规格,支持问答和自然语言理解等研究用途,并注重偏见和有害内容生成的评估与减少。虽然使用20种语言进行训练,但其在英语文本处理上表现更佳。LLaMA被定位为AI研究基础工具,不建议直接应用于未经评估的下游应用。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

白日梦AI

白日梦AI提供专注于AI视频生成的多样化功能,包括文生视频、动态画面和形象生成等,帮助用户快速上手,创造专业级内容。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

讯飞绘镜

讯飞绘镜是一个支持从创意到完整视频创作的智能平台,用户可以快速生成视频素材并创作独特的音乐视频和故事。平台提供多样化的主题和精选作品,帮助用户探索创意灵感。

Project Cover

讯飞文书

讯飞文书依托讯飞星火大模型,为文书写作者提供从素材筹备到稿件撰写及审稿的全程支持。通过录音智记和以稿写稿等功能,满足事务性工作的高频需求,帮助撰稿人节省精力,提高效率,优化工作与生活。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号