Project Icon

deberta-base-mnli

DeBERTa模型在MNLI任务上的微调版本

deberta-base-mnli是一个在MNLI任务上微调的DeBERTa基础模型。DeBERTa通过解耦注意力和增强掩码解码器改进了BERT和RoBERTa。该模型在SQuAD和MNLI等基准测试中表现优异,在大多数自然语言理解任务中超越了BERT和RoBERTa的性能。它为自然语言处理研究和应用提供了有力支持。

LoRA - 大型语言模型的低秩适配方法与参数节省
DeBERTaGLUEGPT-2GithubLoRARoBERTa开源项目
LoRA通过低秩分解矩阵实现大型语言模型的低秩适配,减少了训练参数数量,实现高效的任务切换和存储节省。它在GLUE基准测试中的表现与完全微调相当或更好,同时显著降低了参数需求。LoRA支持RoBERTa、DeBERTa和GPT-2等模型,并已集成到Hugging Face的PEFT库中,提供了便捷的适配解决方案。
classifier-multi-label - 基于BERT的多标签文本分类算法实现
BERTGithubSeq2SeqTextCNNtf.nn.softmax_cross_entropy_with_logits多标签分类开源项目
本项目介绍了如何使用BERT结合TextCNN、Denses、Seq2Seq等多种算法实现多标签文本分类。涵盖了模型结构、损失函数和解码方法等细节,展示了不同方法在推理速度和分类效果上的表现,提供了实验数据和结论,帮助开发者选择最佳解决方案。
llm-finetuning - Modal和axolotl驱动的大语言模型高效微调框架
DeepSpeedGithubLLM微调LoRAModalaxolotl开源项目
这个开源项目整合了Modal和axolotl,为大语言模型微调提供了一个高效框架。它采用Deepspeed ZeRO、LoRA适配器和Flash Attention等先进技术,实现了高性能的模型训练。该框架支持云端部署,简化了资源管理流程,并可灵活适配不同模型和数据集。项目还提供了全面的配置说明和使用指南,方便开发者快速上手和定制化应用。
Pretrained-Language-Model - 先进预训练语言模型与优化技术集合
GithubMindSporePyTorchTensorFlow开源项目自然语言处理预训练语言模型
此开源项目汇集了多个先进的预训练语言模型和相关优化技术。包含200B参数中文语言模型PanGu-α、高性能中文NLP模型NEZHA、模型压缩技术TinyBERT和DynaBERT等子项目。这些模型在多项中文NLP任务中表现出色,支持MindSpore、TensorFlow和PyTorch等多种深度学习框架。
HugNLP - 基于Hugging Face的全面NLP开发应用框架
GithubHugNLPNLP应用开发开源项目指令微调预训练语言模型
HugNLP是基于Hugging Face的NLP开发应用库,为研究人员提供便利高效的开发环境。它集成了丰富的模型、处理器和应用模块,支持知识增强预训练、提示微调、指令调优等技术。该框架还包含参数高效学习、不确定性估计等工具,可用于构建多种NLP应用。HugNLP获得CIKM 2023最佳演示论文奖。
bert-as-language-model - 将BERT用作双向语言模型的开源实现
BERTGithub双向上下文句子困惑度开源项目概率计算语言模型
该项目展示了BERT模型作为双向语言模型的实现方法。通过计算句子概率和困惑度,可评估文本质量。项目提供Web演示供用户体验。该实现充分利用BERT的上下文理解能力,提高了句中各词概率预测的准确性,从而在语言建模任务中实现更佳效果。
hubert-xlarge-ls960-ft - 采用大规模LibriSpeech数据集微调的HuBERT模型,展示前沿语音识别性能
GithubHubertHuggingface开源项目模型聚类自动语音识别自监督学习语音表示学习
HuBERT模型通过LibriSpeech数据集上的960小时微调,提供准确的自动语音识别功能。解决大声单元处理、无词汇表和声单元长度可变等挑战,并在多项基准测试中与wav2vec 2.0性能相当或更优。通过自监督学习和离线聚类,得益于1B参数模型,显著降低了错误率,成为语音识别的关键突破方法。
MoritzLaurer-roberta-base-zeroshot-v2.0-c-onnx - ONNX格式的零样本分类基础模型
GithubHugging FaceHuggingfaceONNX开源项目模型转换
该项目将MoritzLaurer/roberta-base-zeroshot-v2.0-c模型转成ONNX格式,旨在增强推理性能和部署灵活性,借助Hugging Face的Optimum库进行转换。适用于多任务快速处理的应用场景,在零样本分类中,无需大量手动标注数据,便可实现有效的文本分类,适合各类语言处理任务。
ernie - 简化BERT模型的文本分类与预测工具
BERTErnieGithub句子分类开源项目模型微调预测
Ernie是一个基于BERT的Python库,为文本分类和预测任务提供简洁接口。它支持多种预训练模型,允许微调和自定义。Ernie具备灵活的文本分割和结果聚合策略,能够处理长文本,并提供模型保存、加载和自动保存功能。这个工具适用于情感分析、文本分类等多种自然语言处理任务,为NLP研究和开发提供了便捷的解决方案。
BERTweet - 专为英语推文预训练的大规模语言模型,助力自然语言处理
BERTweetCOVID-19GithubRoBERTa开源项目英文推文语言模型
BERTweet是首个专为英语推文预训练的公共语言模型,基于RoBERTa预训练程序,使用850M条推文数据进行训练,包含普通推文和疫情相关推文。BERTweet提供多种预训练模型,能够无缝集成于transformers和fairseq框架,支持情感分析、命名实体识别等自然语言处理任务,为研究和应用提供有力支持。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号