Project Icon

distilroberta-base-rejection-v1

DistilRoBERTa模型用于检测LLM输出拒绝响应 准确率98.87%

这是一个基于DistilRoBERTa的微调模型,用于检测大型语言模型(LLM)输出中的拒绝响应。模型将输入分为正常输出和拒绝检测两类,评估准确率达98.87%。采用Apache 2.0许可证,支持Transformers和ONNX运行时,易于集成。适用于内容审核和安全防护,可识别LLM对不当内容的拒绝响应。

granite-guardian-hap-38m - IBM开源轻量级文本毒性检测模型实现大语言模型安全防护
GithubHuggingfaceRoBERTa内容审核开源项目性能优化文本检测模型模型分类
Granite-Guardian-HAP-38m是一个用于检测英文文本有害内容的轻量级二分类模型。通过4层神经网络架构设计,模型参数量仅为3800万,较RoBERTa模型显著缩减规模。该模型支持CPU部署运行,具备低延迟推理能力,适用于大语言模型的安全防护以及批量文本处理场景。实测显示,模型在维持分类准确率的同时达到了理想的性能指标。
roberta_toxicity_classifier - RoBERTa模型提供准确的有害评论分类功能
GithubHuggingfaceJigsawRoBERTa平行语料库开源项目有毒评论分类模型自然语言处理
本项目基于RoBERTa开发了一个有害评论分类模型。该模型在约200万条Jigsaw数据集样本上进行微调,测试集表现优异,AUC-ROC达0.98,F1分数为0.76。模型易于集成到Python项目中,可用于文本有害内容检测。项目提供使用说明和引用信息,便于研究人员和开发者在此领域深入探索。
Llama-Guard-3-8B - 多语言内容安全分类器助力AI对话保护
GithubHuggingfaceLlama Guard 3MLCommonstransformers内容安全分类多语言支持开源项目模型
Llama Guard 3是基于Llama 3.1-8B模型微调的内容安全分类器,可审核AI系统的输入输出,识别14类有害内容。它支持8种语言,针对搜索和代码解释器等场景优化,提高了大型语言模型的安全性。该模型通过API调用即可进行内容审核,为AI应用提供安全保障。
wildguard - 开源的用户请求与AI响应安全检测工具
GithubHuggingfaceWildGuard人工智能安全内容审核开源项目拒绝检测有害内容检测模型
这是一款开源工具,用于检测用户请求和AI响应的潜在危害与拒绝。在多项基准测试中表现出色,超越现有开源模型,并在对抗性提示的有害性评估中胜过GPT-4。它的审核涵盖隐私、虚假信息、有害语言和恶意用途等风险,为内容治理提供全面支持。虽然可能存在一定误判,但在审核准确性上表现领先。
ShieldLM-7B-internlm2 - 中英双语AI内容安全检测模型 支持自定义规则审核
GithubHuggingfaceShieldLM人工智能双语模型大语言模型安全检测开源项目模型
ShieldLM-7B-internlm2是基于internlm2-chat-7b开发的内容安全检测模型,主要用于识别大语言模型输出内容中的安全风险。模型支持中英双语检测,遵循通用安全标准,可根据需求自定义检测规则并提供判断依据。经测试,其检测性能在多个测试集上优于GPT-4等主流安全检测模型。
twitter-roberta-large-hate-latest - 增强的多类别仇恨言论检测模型
GithubHuggingfaceRoBERTaSuperTweetEval仇恨言论检测开源项目推特文本分类模型
此RoBERTa-large模型基于154M推文数据进行训练,并在SuperTweetEval数据集上进行微调,以实现仇恨言论的多类别分类检测。模型能够准确识别多种仇恨类型,包括性别、种族和宗教等,为社交媒体内容管理提供支持。
voice-safety-classifier - 语音聊天毒性检测的高精度分类工具
GithubHuggingfacetoxicity detection多标签分类开源项目模型模型评估语音安全音频分类
该项目提供了一个新的语音聊天毒性检测基准模型,基于大规模数据集开发。模型使用WavLM base plus权重,经过2,374小时语音多标签微调,输出标签包括Profanity、DatingAndSexting、Racist、Bullying等。评估显示模型在二元分类任务中的精度达到94.48%。使用者可通过特定命令运行模型权重进行应用。
ToxicityModel - 基于RoBERTa的毒性检测与评分优化工具
AI辅助GithubHuggingfaceToxicityModeltransformers开源项目模型毒性识别词汇评级
这是一款基于RoBERTa的微调模型,用于有效检测和评分文本毒性。模型通过有毒及无毒语言示例训练,特别在wiki_toxic和toxic_conversations_50k数据集上表现出色。作为RLHF训练的辅助工具,该模型的输出值可用于判断文本的毒性与否,适合多种需检测有毒语言的应用场景。
roberta-base-suicide-prediction-phr - RoBERTa自然语言处理模型实现文本自杀倾向识别
GithubHuggingfaceroberta-base开源项目文本分类模型深度学习自杀倾向预测模型
该模型通过对Reddit社交平台的文本数据进行分析训练,利用RoBERTa自然语言处理技术识别文本中的自杀倾向。测试结果显示模型具有96.5%的准确率、96.6%的召回率和96.4%的精确率。项目采用严格的文本清洗和预处理流程,可应用于心理健康监测领域的自动化分析。
deberta-v3-base-prompt-injection - DeBERTa-v3提示注入检测模型实现99.99%准确率
DeBERTa-v3GithubHuggingfaceprompt injection安全开源项目文本分类机器学习模型
该提示注入检测模型基于DeBERTa-v3架构,通过多个数据集训练后可精确识别正常和注入提示。模型在评估集上实现99.99%的准确率,支持Transformers、ONNX和Langchain等框架集成,为LLM提供可靠的安全防护。开发者可通过Python接口轻松使用该模型,增强AI系统对提示注入攻击的防御能力。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

白日梦AI

白日梦AI提供专注于AI视频生成的多样化功能,包括文生视频、动态画面和形象生成等,帮助用户快速上手,创造专业级内容。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

讯飞绘镜

讯飞绘镜是一个支持从创意到完整视频创作的智能平台,用户可以快速生成视频素材并创作独特的音乐视频和故事。平台提供多样化的主题和精选作品,帮助用户探索创意灵感。

Project Cover

讯飞文书

讯飞文书依托讯飞星火大模型,为文书写作者提供从素材筹备到稿件撰写及审稿的全程支持。通过录音智记和以稿写稿等功能,满足事务性工作的高频需求,帮助撰稿人节省精力,提高效率,优化工作与生活。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号