#LUKE
luke-japanese-large - 日语知识加强型词汇和实体嵌入模型
Github开源项目模型Huggingface知识增强语言理解LUKE实体表示日语版
模型是日语版的知识增强型Transformer模型,通过将单词和实体处理为独立的词元来生成其上下文表示。该模型集成了Wikipedia实体嵌入,在特定NLP任务中表现优异。对于不使用Wikipedia实体的任务,建议使用轻量版。luke-japanese在JGLUE数据集的实验中表现出色,相较于多种基线模型效果更佳,特别是在MARC-ja、JSTS和JNLI任务中表现突出。为日语自然语言处理提供了准确理解文本与实体的有力工具。
luke-base - 语言理解与知识嵌入相结合的LUKE模型
Github开源项目模型命名实体识别Huggingface问题解答LUKE实体类型化关系分类
LUKE-base是一个基于Transformer的预训练模型,专注于语言和实体理解,利用实体感知的自注意力机制,在多项NLP任务中表现优异。该模型具有12个隐藏层、253M参数,并以2018年Wikipedia数据训练。如需更多信息,请参阅官方库。
luke-japanese-base-finetuned-jnli - 日本语自然语言推理优化模型
Github开源项目模型transformersHuggingface自然语言推理LUKE实体自注意机制yahoo japan/JGLUE
该项目是LUKE的日本语言版本,利用Yahoo Japan的JGLUE JNLI数据集进行优化调整。模型具备89.77%的准确率,用于计算文本关系(矛盾、中立、蕴含)并适用于自然语言推理任务。通过安装Transformers和SentencePiece库,可快速测试和应用于多语言自然语言处理项目。