Project Icon

roberta-base-japanese-with-auto-jumanpp

日语RoBERTa预训练语言模型

RoBERTa日语基础模型通过日本维基百科和CC-100语料库训练而成,采用Juman++分词系统和32000规模词表,支持掩码语言建模与下游任务微调。模型经过A100 GPU集群训练,在JGLUE基准测试中展现出稳定性能,可作为日语自然语言处理的基础模型使用。

japanese-hubert-large - 大规模日语语音表示学习模型HuBERT
GithubHuBERTHuggingfacerinna开源项目日语语音模型模型自监督学习语音识别
rinna公司训练的日语HuBERT Large模型采用24层transformer架构,在19,000小时ReazonSpeech语料库上训练。该模型能够提取1024维日语语音特征表示,为语音识别、合成等任务提供基础。研究人员和开发者可利用此开源模型进行各种日语语音处理应用的开发。模型采用Apache 2.0开源协议,使用方便。可通过Hugging Face transformers库轻松加载使用,支持提取日语语音特征。该项目还提供了fairseq格式的检查点文件,方便研究人员进行深入研究和二次开发。
JaColBERTv2.5 - 优化资源应用的日语信息检索模型
GithubHuggingfaceJaColBERTv2.5多语言模型开源项目数据集日本语检索器模型模型权重
该模型使用全新的训练方法,基于40%的数据成功创建了高效的日语信息检索系统。在多个数据集上表现优异,特别是改进的多向量检索方法,在资源受限的情况下提供卓越性能,优于包括BGE-M3在内的多语言模型,适合资源有限的应用场景。
roberta-large - 大型英语预训练模型,适合多种任务优化
GithubHuggingfaceRoBERTaTransformer模型开源项目模型语言模型遮蔽语言建模预训练模型
RoBERTa是一个自监督学习的变压器模型,通过掩码语言建模(MLM)目标优化英语语言的表示。主要用于细调下游任务,如序列和标记分类以及问答。此模型预训练于包括BookCorpus和Wikipedia在内的五个大型语料库,使用BPE分词法和动态掩码训练,实现双向句子表示,并在GLUE测试中表现优异,适合在PyTorch和TensorFlow中应用。
japanese-stablelm-base-beta-7b - 日本语自然语言处理的7B参数高效模型
GithubHuggingfaceJapanese-StableLM-Base-Beta-7BLlama2开源项目日语模型自然语言处理语言模型
该7B参数自回归模型基于Llama-2-7b,经过微调以提升日本语言任务表现。其使用多样的日本语数据集训练,适合各种文本生成任务,并且推理速度优异。提供开放商业用途,适合应用程序的专用调整。
llm-jp-3-1.8b-instruct - 跨平台大规模语言模型的多语言开发与评估
GithubHuggingfacellm-jptransformers大规模语言模型开源项目指令微调模型预训练
项目由日本国家信息学研究所研发中心开发,提供支持多种编程语言的大型语言模型,如C、Python、Java。采用Transformer架构,模型经过大规模数据集的预训练与优化微调,适用于多语言环境。用户可通过Hugging Face Transformers库轻松集成与使用。项目提供模型技术细节、参数设置和语言标记器使用方法,以及多样化的数据集和评估方案,适用于中文、英文、日文等语言。
xlm-roberta-base - XLM-RoBERTa预训练模型支持多语言,优化跨语言任务表现
GithubHuggingfaceXLM-RoBERTa下游任务多语言开源项目模型特征提取蒙版语言模型
XLM-RoBERTa是多语言RoBERTa模型,基于2.5TB的CommonCrawl数据进行预训练,涵盖100种语言。模型通过掩蔽语言目标实现自监督学习,从而掌握多语言的双向表示。在序列分类和问答等下游任务中具有优异表现。该模型主要用于微调以适应具体任务,尤其适合分析整句子以做出决策的场景。可用于掩蔽语言建模,或借助微调版本实现特定应用。
llm-jp-1.3b-v1.0 - 大规模语言模型支持多语言和多种编程语言
GithubHuggingfaceLLM-jp大型语言模型开源项目模型深度学习自然语言处理训练数据
此大规模语言模型由日本研发,支持多语言(含日语和英语)及多编程语言。采用Transformer架构,经过预训练和指令调优,适用于多种自然语言处理任务。模型在多个硬件和软件环境中优化,包括使用Megatron-DeepSpeed和TRL,可用于生成自然语言文本,应用广泛,性能优异。
ukr-roberta-base - 乌克兰文HuggingFace模型的语料库预训练
GithubHuggingFaceHuggingfaceUkrainian Wikipediaukr-roberta-base开源项目模型训练数据语言模型
该项目使用乌克兰语言的多种语料库,并结合HuggingFace的Roberta分词器进行了处理。所使用的语料包括乌克兰维基百科、OSCAR数据集及社交网络样本。通过V100硬件加速的方法,预训练出与roberta-base-cased架构类似的模型,拥有12层、768个隐藏单元和125M参数。有关详细的训练配置和技术细节,请参阅原始项目。
shisa-gamma-7b-v1 - 英日双语优化的Japanese Stable LM语言模型
GithubHuggingfaceShisa-gamma-7b人工智能开源项目日语模型机器学习模型语言模型
shisa-gamma-7b-v1是基于Japanese Stable LM Base Gamma 7B的微调模型,经过数据集优化后在JA MT-Bench测试中取得了显著成果。该模型支持日语和英语双语处理,采用Apache-2.0许可证,适用于需要日英语言处理能力的开发场景。
clip-japanese-base - 日语CLIP模型,支持图像和文本的零样本分类与检索
BERTCLIPGithubHuggingface图像分类开源项目文本检索模型视觉任务
该日语CLIP模型由LY Corporation开发,通过大约10亿对图文数据进行训练,适用于图像和文本的零样本分类与检索。该模型采用Eva02-B作为图像编码器,并使用12层BERT作为文本编码器。模型在图像分类中的准确率达到0.89,检索召回率为0.30。在评估中,使用了STAIR Captions和ImageNet-1K等数据集,表现优秀。模型已开源,遵循Apache 2.0协议。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

白日梦AI

白日梦AI提供专注于AI视频生成的多样化功能,包括文生视频、动态画面和形象生成等,帮助用户快速上手,创造专业级内容。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

讯飞绘镜

讯飞绘镜是一个支持从创意到完整视频创作的智能平台,用户可以快速生成视频素材并创作独特的音乐视频和故事。平台提供多样化的主题和精选作品,帮助用户探索创意灵感。

Project Cover

讯飞文书

讯飞文书依托讯飞星火大模型,为文书写作者提供从素材筹备到稿件撰写及审稿的全程支持。通过录音智记和以稿写稿等功能,满足事务性工作的高频需求,帮助撰稿人节省精力,提高效率,优化工作与生活。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号