#实体类型化

LUKE-base是一个基于Transformer的预训练模型，专注于语言和实体理解，利用实体感知的自注意力机制，在多项NLP任务中表现优异。该模型具有12个隐藏层、253M参数，并以2018年Wikipedia数据训练。如需更多信息，请参阅官方库。