Github
Huggingfacerubert-tiny2-russian-sentiment项目介绍
项目概述
rubert-tiny2-russian-sentiment是一个针对俄语短文本情感分类的模型。该模型基于RuBERT-tiny2进行微调，可以对俄语文本进行多分类情感分析。这个项目旨在为俄语自然语言处理领域提供一个高效、准确的情感分析工具。
模型功能
该模型可以将俄语文本分为三类情感:
- 中性(neutral)
- 积极(positive)
- 消极(negative)
用户可以轻松使用这个模型来分析俄语文本的情感倾向,得到文本所属的情感类别及其概率分数。
使用方法
使用该模型非常简单。用户只需通过Transformers库的pipeline函数加载模型,然后就可以直接输入俄语文本进行情感分析。例如:
from transformers import pipeline
model = pipeline(model="seara/rubert-tiny2-russian-sentiment")
model("Привет, ты мне нравишься!")
这段代码会返回文本的情感分类结果及其概率分数。
训练数据
该模型使用了多个俄语情感分析数据集进行训练,包括:
- Kaggle俄语新闻数据集
- Linis Crowd 2015数据集
- Linis Crowd 2016数据集
- RuReviews数据集
- RuSentiment数据集
这些数据集的汇总为模型提供了丰富的训练样本,涵盖了不同领域和类型的俄语文本。
训练过程
模型的训练过程采用了以下参数:
- 最大序列长度: 512
- 批次大小: 64
- 优化器: Adam
- 学习率: 0.00001
- 权重衰减: 0
- 训练轮数: 5
数据集被划分为80%训练集、10%验证集和10%测试集。
模型性能
在测试集上,模型展现出了优秀的性能:
- 宏平均F1分数: 0.75
- 加权平均F1分数: 0.75
- 宏平均AUC-ROC: 0.9
- 加权平均AUC-ROC: 0.9
这些指标表明该模型在各种情感类别上都有稳定且出色的表现。
项目意义
rubert-tiny2-russian-sentiment项目为俄语自然语言处理领域提供了一个强大的工具。它可以帮助研究人员、开发者和企业更好地理解和分析俄语文本的情感倾向,为舆情分析、客户反馈处理等应用提供支持。该项目的开源性质也为俄语NLP社区的发展做出了贡献。
