Logo
Project Icon

based

结合短窗口和线性注意力的高效语言模型架构

Based语言模型线性注意力效率召回Github开源项目

Based是一种创新的语言模型架构,结合短窗口注意力和全局线性注意力,实现次二次复杂度的高效依赖建模。该模型在多项基准测试中表现优异,尤其擅长需要长程记忆的任务。项目提供预训练模型、训练评估代码和合成数据实验,展示了其在召回与吞吐量平衡方面的优势。研究人员可利用这些资源深入探索和优化这一新型语言模型架构。

访问官网访问官网GithubGithubHuggingfaceHuggingface论文论文
介绍相关项目
bert-base-cased - 使用预训练双向Transformer模型提升语言理解能力
BERTGithubHuggingface句子分类开源项目掩码语言建模模型自监督学习预训练
BERT是一种通过自监督学习预训练的双向Transformer模型，旨在改善英语语言理解。基于大型语料库的预训练，使其能学习句子的双向表示，适用于序列分类、标记分类和问答任务。通过Masked Language Modeling和Next Sentence Prediction目标进行预训练，BERT在各类任务中展现出卓越表现，但注意选择合适的训练数据以避免潜在偏见。
bigbird-roberta-base - 高性能长序列文本处理的稀疏注意力Transformer模型
BigBirdGithubHuggingfacetransformer模型开源项目模型深度学习自然语言处理长序列处理
BigBird-RoBERTa-base是一种基于块稀疏注意力机制的Transformer模型，可处理长达4096个token的序列。该模型在Books、CC-News、Stories和Wikipedia等大规模数据集上预训练，大幅降低了计算成本。在长文档摘要和长上下文问答等任务中，BigBird-RoBERTa-base展现出优秀性能。模型支持灵活配置注意力类型，可在默认的块稀疏模式和全注意力模式间切换，为超长序列文本处理提供了高效方案。
deepseek-moe-16b-base - 采用稀疏混合专家架构的开源大语言模型
DeepSeek MoEGithubHuggingface人工智能代码生成开源项目机器学习模型模型训练
DeepSeek MoE 16B Base是一个基于稀疏混合专家(MoE)架构的开源大语言模型，支持商业应用。模型使用bfloat16格式，可通过Transformers库调用，擅长文本生成和补全。它采用查询-键值对映射的注意力机制，高效处理自然语言处理任务。该项目遵循MIT许可，提供详细文档和示例代码，便于开发者集成使用。
bart-base - 用于自然语言生成和理解的序列到序列预训练模型
BARTGithubHuggingface序列到序列学习开源项目文本生成模型自然语言处理预训练模型
BART是基于transformer架构的编码器-解码器模型，结合了双向编码器和自回归解码器。模型通过文本去噪和重建预训练，在摘要、翻译等文本生成任务中表现出色，同时适用于文本分类、问答等理解任务。虽可直接用于文本填充，但BART主要设计用于在监督数据集上微调。研究者可在模型中心寻找针对特定任务优化的版本。
distilbert-base-uncased - 紧凑高效的语言模型，提升下游任务处理速度
DistilBERTGithubHuggingface使用限制开源项目模型模型压缩训练数据语言模型
DistilBERT是一种高效的Transformers模型，比原始BERT更小更快，适合快速推理的下游任务。通过自监督预训练，它支持掩码语言建模和句子预测。主要用于全句任务如分类和问答，尽管继承了部分原模型偏见。在海量公开数据的支持下，DistilBERT在多种任务中表现优异，兼顾性能和速度。可在模型中心查看微调版本。
internlm2-base-7b - 高效处理超长文本的多功能开源模型
GithubHuggingfaceInternLM开源开源项目模型评测语言能力
InternLM2-Base-7B是一个适应性强的开源模型，支持处理长达20万字的文本，具备精确的信息检索能力，并在推理、数学、编程任务中表现优异。通过OpenCompass工具验证，其性能适合广泛应用，是研究人员和开发者的理想选择。
LaBSE - 基于BERT的多语言句子编码引擎 助力跨语言语义检索
BERTGithubHuggingfaceLaBSE句子嵌入多语言开源项目模型自然语言处理
作为Google开源的多语言句子编码模型，LaBSE整合掩码语言建模与翻译语言建模技术，实现109种语言的高效句子嵌入。经CommonCrawl和维基百科数据集训练，可用于跨语言语义相似度计算和双语文本检索，并支持完整Python接口调用
byt5-base - 直接处理原始字节的多语言自然语言处理模型
ByT5GithubHuggingface原始文本处理多语言支持开源项目模型模型架构自然语言处理
ByT5-base是一种新型多语言预训练模型，采用Google T5架构。它独特之处在于直接处理原始UTF-8字节，无需分词器即可应对多语言文本，并展现出优秀的抗噪声能力。该模型在大规模mC4多语言数据集上完成预训练，可通过微调适应不同下游任务。ByT5-base在处理包含噪声的文本数据时表现突出，尤其在社交媒体相关任务如TweetQA中，性能显著优于传统的mt5-base模型。
bge-base-en-v1.5 - 增强文本处理能力的多任务学习模型
GithubHuggingfacesentence-transformers分类句子相似性句子聚类开源项目模型特征提取
bge-base-en-v1.5模型通过多任务学习优化自然语言处理技术，覆盖分类、检索、聚类和重排任务。在多个MTEB数据集上表现优异，例如在亚马逊情感分类任务中达到93.39%的准确率，在AskUbuntu重排任务中MRR达到74.28%。该模型具有MIT开源许可，适用于多种英语任务，为研究人员和开发者提供有效支持。
optimized-gpt2-1b - GPT-2架构优化模型 提供高效可扩展的自然语言处理功能
GithubHuggingfacetransformers人工智能开源项目机器学习模型模型卡自然语言处理
optimized-gpt2-1b是一个基于GPT-2架构优化的大规模语言模型。该模型在保持GPT-2性能的基础上，通过架构和训练方法的优化提高了效率和可扩展性。它可应用于文本生成、摘要和问答等多种自然语言处理任务。模型支持直接使用或针对特定需求进行微调。项目提供了使用说明和评估结果，有助于研究人员和开发者更好地理解和应用这一语言模型。
相关项目
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务
投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号