#内容审核

nsfwjs是一个基于TensorFlow.js的JavaScript库，用于在客户端浏览器中识别图像内容。该工具可将图像分为绘画、色情动画、中性、色情和性感五类，准确率约为90-93%。nsfwjs支持浏览器、React Native和Node.js等多种环境，并提供模型缓存和自托管功能，以提升性能和灵活性。这个开源项目为开发者提供了一个便捷的图像内容识别解决方案。

Wavu是一个智能垃圾内容检测服务，利用AI技术识别和过滤垃圾信息。该服务支持多种集成方式，包括WordPress、Bubble等插件和REST API接口，适合各类网站和应用使用。Wavu旨在为开发者和创作者提供简单、高效、经济的内容保护方案，确保用户体验和内容质量。通过多种集成选择，Wavu帮助保护网站、应用和内容，有效防止垃圾信息侵扰，适用于不同技术水平的用户。

Checkstep提供AI驱动的内容审核服务，支持图像、视频、音频、文本等多种媒体格式的快速检测和移除。平台集成先进AI技术，识别100多种语言内容，检测标准滥用类型和生成式媒体。具备政策管理、合规报告和内容模糊处理功能，帮助企业实现内容审核自动化，提升用户安全和运营效率。Checkstep是您的智能内容审核解决方案。

Bodyguard.ai是一个AI驱动的社交媒体监控和内容审核平台。该平台利用人工智能技术为企业提供在线社区保护,包括实时检测和移除有害内容、防范潜在威胁和分析受众行为。Bodyguard.ai适用于零售、奢侈品、体育和媒体等多个行业,帮助企业打造安全积极的在线环境,保护品牌声誉。

Noodle4是一个革新性AI内容管理平台，专注于高效全面的智能审核。该系统能迅速分析图像、视频、文本和音频等多媒体内容，确保符合客户需求、规避禁忌并保持合规。平台支持实时协作，便于创作者和客户同步查看审核结果。通过直观的界面，用户可轻松管理内容文件和版本。Noodle4简化了内容审核流程，大幅提升工作效率，为用户提供全天候AI驱动的内容管理支持。

Secur3D提供自动化3D资产分析、IP保护和内容审核服务。平台采用AI技术进行几何和纹理分析，实现明确内容检测、品牌侵权识别、资产分类和描述生成。专为3D资产市场、UGC游戏、社交平台和3D打印市场设计，支持API、SDK和Webhooks集成，确保UGC创作者社区安全，优化内容市场运营。Secur3D提供实时、准确的分析结果和报告，助力高效内容管理。

Align API为AI应用提供内容过滤和品牌对齐功能。该平台能快速检测敏感话题、清理提示词，确保AI输出符合品牌价值观。具有低延迟和易集成特点，可降低推理成本，提升AI应用安全性和品牌一致性。Align API简化了AI应用输出内容的管理和优化流程。

ModerateKit为Gainsight、Slack和Discord社区提供自动化内容审核服务。该工具高效处理用户生成内容，助团队节省时间，提升社区质量和参与度，同时降低运营成本。功能包括智能分类、内容优化、自动翻译，确保帖子符合社区规范。ModerateKit还提供情感分析和自动回复等高级功能，有助于提高社区健康度。ModerateKit为寻求精简运营、提高效率的社区管理者提供了一种自动化内容管理方案。

BasicPrompt作为专业的AI提示工程和管理平台，提供创建、测试、部署和共享AI提示的一站式解决方案。支持Claude、ChatGPT和Llama等多种AI模型，平台配备内容审核、通用提示编辑器和测试平台等功能。具备团队协作和版本控制能力，提高AI提示开发和管理效率。适用于个人用户和企业团队的AI提示工程需求，实现快速部署和应用。

Auto Blogging是一个智能博客内容创作和优化平台。基于真实搜索数据和排名靠前的网站信息，该平台自动完成关键词研究、内容生成和反向链接建设。它还提供内容审核和重写功能，有效提升网站SEO表现。Auto Blogging为数字营销机构和内容创作者提供高效的博客管理解决方案，简化内容创作流程，提高文章质量和搜索排名。

Sequens.ai是一个面向B2B市场的智能内容生成平台。通过结合优化的AI技术和专业审核，平台为企业提供高质量的SEO博客文章、社交媒体内容和潜在客户开发材料。Sequens.ai注重数据安全、品牌声音定制和多渠道内容分发，帮助企业增加流量、获取更多商机并优化内容营销投入。平台融合AI技术和人工专业知识，为企业提供全面的内容营销解决方案。

Deepengin提供专业的图像和视频审核API服务。通过先进的计算机视觉技术，自动检测和过滤照片、视频及直播中的不当内容，如裸露、暴力、毒品和攻击性手势。平台易于集成，确保数据隐私和安全。适用于社交媒体、在线教育和电商平台等需要大规模内容审核的应用，有效维护内容环境，保护品牌形象。Deepengin以毫秒级的处理速度和99%以上的准确率，支持多语言内容审核，为企业提供全面的内容安全解决方案。

CaliberAI提供全面的内容风险管理解决方案。平台具备文章评估、评论审核和实时写作辅助功能，帮助用户有效识别和防范诽谤及有害内容。系统可灵活集成到浏览器、社交媒体和内容管理系统中，优化内容生产流程，降低发布风险。适用于各类需要保护在线声誉、减少法律风险的组织和个人。

NsfwSpy.NET是基于.NET Core 2.0及以上版本的开源图像和视频内容分类器，支持多平台使用。该工具采用ML.NET模型，通过大规模图像训练，能够识别色情、性感、动漫色情和中性内容。NsfwSpy.NET支持多种格式，提供GPU加速，可用于用户生成内容的审核。

ThreatExchange是一个综合性开源项目，集成了威胁情报共享和内容审核功能。它包括PDQ图像哈希、TMK视频哈希等多个子项目，以及HMA内容审核平台。项目提供Python库和命令行工具，支持内容扫描和信号交换。同时还包含Meta的ThreatExchange API示例，便于开发者使用威胁情报数据。该项目为安全专业人员提供了应对网络威胁的实用工具和资源。

该开源项目充分利用Mux平台能力，实现视频录制上传功能。集成Mux直接上传、webhook安全验证和HLS播放技术，并开发Slack审核机器人。基于NextJS框架，运用SWR、API路由等现代web开发特性。支持Vercel一键部署，可选配Google Vision或Hive AI增强内容审核能力。

SeyftAI提供实时多模态内容审核，过滤文本、图像和视频中的不当内容。支持多语言和文化背景，无需人工操作，可通过API无缝集成到现有系统中。

这是一款开源工具，用于检测用户请求和AI响应的潜在危害与拒绝。在多项基准测试中表现出色，超越现有开源模型，并在对抗性提示的有害性评估中胜过GPT-4。它的审核涵盖隐私、虚假信息、有害语言和恶意用途等风险，为内容治理提供全面支持。虽然可能存在一定误判，但在审核准确性上表现领先。

DistilRoBERTa-base文本分类模型通过14317条Reddit帖子训练，可识别文本内容是否适合工作场合。模型采用NSFW(不适合工作场合)和SFW(适合工作场合)二分类方法，支持Pipeline快速部署，可用于社交媒体和在线社区的内容审核。

该NSFW图像分类器基于microsoft/focalnet-base构建，将图像快速分类为安全、可疑和不安全三类。模型接受512x512像素输入，支持批量处理，响应时间低于100ms。适用于社交媒体、电商平台、约会应用等内容审核场景。经过数百万图像训练，在NSFW检测基准任务中准确率超过95%，有助于维护平台安全和用户体验。

Granite-Guardian-HAP-38m是一个用于检测英文文本有害内容的轻量级二分类模型。通过4层神经网络架构设计，模型参数量仅为3800万，较RoBERTa模型显著缩减规模。该模型支持CPU部署运行，具备低延迟推理能力，适用于大语言模型的安全防护以及批量文本处理场景。实测显示，模型在维持分类准确率的同时达到了理想的性能指标。

这是一个基于RoBERTa架构的评论审核模型ONNX版本，专注于识别和分类不当言论。模型支持多维度评估，包括攻击性、不当行为、语言暴力等标签分类。通过Optimum库优化，便于系统集成，同时提供完整文档支持和活跃的开发者社区。

这是一个基于Stable Diffusion技术的开源项目，通过AI将2D图像自动转换为3D模型。项目采用Objaverse数据集训练，主要应用于研究领域，可用于艺术创作、教育和产品设计。该技术虽在文字渲染和人像生成方面存在限制，但为计算机视觉领域带来突破性进展。

Llama-Guard基于Llama 2，专注于内容分类以确保文本生成的安全。通过概率评估，识别不安全子类别。该模型使用Anthropic和内部数据集训练，提供强大分类能力，能识别并预防如暴力、仇恨、性内容等不当内容。在Hugging Face可用，须遵循Meta许可证协议。