unbiased-toxic-roberta

RoBERTa模型识别多语言有毒评论并减少偏见

模型评估 Huggingface 模型 Detoxify 机器学习有毒评论分类 Github 开源项目自然语言处理

该项目开发了基于RoBERTa的多语言模型,用于检测互联网上的有毒评论。模型在Jigsaw三个挑战数据集上训练,可识别威胁、侮辱和仇恨言论等多种有毒内容。它支持多种语言,易于使用,适用于研究和内容审核。项目还探讨了模型的局限性和伦理问题,努力减少对特定群体的意外偏见。

文档

roberta_toxicity_classifier - RoBERTa模型提供准确的有害评论分类功能

GithubHuggingfaceJigsawRoBERTa平行语料库开源项目有毒评论分类模型自然语言处理

本项目基于RoBERTa开发了一个有害评论分类模型。该模型在约200万条Jigsaw数据集样本上进行微调，测试集表现优异，AUC-ROC达0.98，F1分数为0.76。模型易于集成到Python项目中，可用于文本有害内容检测。项目提供使用说明和引用信息，便于研究人员和开发者在此领域深入探索。

roberta_toxicity_classifier - 高效的毒性评论分类模型

AUC-ROCF1-scoreGithubHuggingfaceJigsawRoBERTa开源项目模型毒性分类

该模型专注于毒性评论的分类，使用来自Jigsaw 2018、2019和2020年的数据集训练，包含约200万个英文例子。通过对RoBERTa模型的精细调校，在测试集上表现出色，AUC-ROC达到0.98，F1评分为0.76，是用于识别毒性内容的有效工具。

unbiased-toxic-roberta-onnx - 基于RoBERTa的公平评论审核模型ONNX实现

GithubHuggingfaceRoBERTa内容审核开源项目文本分类有害内容检测模型模型转换

这是一个基于RoBERTa架构的评论审核模型ONNX版本，专注于识别和分类不当言论。模型支持多维度评估，包括攻击性、不当行为、语言暴力等标签分类。通过Optimum库优化，便于系统集成，同时提供完整文档支持和活跃的开发者社区。

toxic-bert - 基于深度学习的多语言有毒评论检测工具

DetoxifyGithubHuggingface内容审核开源项目机器学习模型毒性评论分类自然语言处理

Detoxify是一个开源的深度学习工具,专门用于识别和分类有毒评论。该项目基于PyTorch Lightning和Transformers框架,提供三个预训练模型,分别针对一般有毒评论、含偏见的有毒评论和多语言有毒评论。Detoxify能够检测威胁、淫秽、侮辱等多种有毒内容,支持英语、法语等7种语言。这个工具易于使用,适合研究人员或内容审核人员使用,但在应用时需要注意潜在的偏见问题。

detoxify - 基于Pytorch Lightning和Transformers的多语言有害评论分类模型

DetoxifyGithubJigsawMultilingualPytorch LightningToxic Comment ClassificationTransformersUnintended Bias in Toxicity Classification开源项目

Detoxify项目利用Pytorch Lightning和Transformers构建模型，识别和分类包含威胁、辱骂和身份攻击的有害评论。这些模型支持多语言操作，致力于减少无意中的偏见。项目在多次Jigsaw挑战赛中表现出色，提供高效的有害内容检测方案，适合用于研究和内容审核工作，帮助更快速地标记有害内容和提高用户体验。

ToxicityModel - 基于RoBERTa的毒性检测与评分优化工具

AI辅助GithubHuggingfaceToxicityModeltransformers开源项目模型毒性识别词汇评级

这是一款基于RoBERTa的微调模型，用于有效检测和评分文本毒性。模型通过有毒及无毒语言示例训练，特别在wiki_toxic和toxic_conversations_50k数据集上表现出色。作为RLHF训练的辅助工具，该模型的输出值可用于判断文本的毒性与否，适合多种需检测有毒语言的应用场景。

toxigen_roberta - 基于大规模数据集的隐含仇恨言论检测模型

GithubHuggingfaceToxiGen开源项目数据集文本分类机器学习模型隐式仇恨言论检测

ToxiGen是一个专门用于检测隐含和对抗性仇恨言论的机器学习模型。该模型基于大规模机器生成的数据集训练而成，源自一篇关于隐含仇恨言论检测的学术研究。ToxiGen提供了训练数据集和详细信息，为研究人员和开发者在改进在线内容审核方面提供了有力支持。这一工具有助于构建更安全的在线交流环境，对于社交媒体平台和内容管理系统具有重要应用价值。

toxic-comment-model - 使用DistilBERT进行在线毒性评论分类的模型与偏见分析

DistilBERTGithubHuggingface偏差培训数据开源项目模型毒性评论

该模型基于DistilBERT进行精调，专为在线毒性评论分类设计。尽管总体表现出色，但在识别某些身份群体时表现出偏见，如穆斯林和犹太人。通过示例代码能快速应用此模型，其在10000条测试数据中取得94%的准确率，但f1-score为0.59。更多信息及训练代码可在指定GitHub仓库获取。

toxic-comment-model - DistilBERT微调的高性能在线评论毒性分类模型

DistilBERTGithubHuggingface开源项目文本分类有毒评论机器学习模型自然语言处理

该模型是基于DistilBERT微调的在线评论毒性分类器，在测试集上达到94%准确率和0.59 F1分数。它易于使用，适合处理各类在线评论，但在某些身份群体相关评论上可能存在偏见。模型使用Kaggle竞赛数据集训练，用户在应用时应注意其在特定群体评论分类上的局限性。

distilroberta-base-offensive-hateful-speech-text-multiclassification - 基于DistilRoBERTa的多分类攻击性和仇恨言论检测模型

GithubHuggingfacedistilroberta-base仇恨言论检测多分类开源项目文本分类模型预训练模型

这是一个基于DistilRoBERTa-base的预训练模型，专门用于多分类攻击性和仇恨言论检测。该模型在原创数据集上进行微调，准确率达到94.50%。项目提供了Hugging Face上的数据集和演示空间，以及GitHub上的训练notebook。这为研究人员和开发者提供了一个高效工具，用于识别和分类在线有害内容。

推荐项目

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

白日梦AI

白日梦AI提供专注于AI视频生成的多样化功能，包括文生视频、动态画面和形象生成等，帮助用户快速上手，创造专业级内容。

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

讯飞绘镜

讯飞绘镜是一个支持从创意到完整视频创作的智能平台，用户可以快速生成视频素材并创作独特的音乐视频和故事。平台提供多样化的主题和精选作品，帮助用户探索创意灵感。

讯飞文书

讯飞文书依托讯飞星火大模型，为文书写作者提供从素材筹备到稿件撰写及审稿的全程支持。通过录音智记和以稿写稿等功能，满足事务性工作的高频需求，帮助撰稿人节省精力，提高效率，优化工作与生活。

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com