modelscan

开源AI模型安全扫描工具助力高效检测风险

ModelScan 机器学习模型安全扫描序列化攻击开源项目 Github

ModelScan是Protect AI开发的开源AI模型安全扫描工具,支持H5、Pickle和SavedModel等多种格式。它可快速识别PyTorch、TensorFlow、Keras等框架中的模型安全风险,有效防范模型序列化攻击。ModelScan易于集成到机器学习流程中,为AI模型全生命周期提供安全保障,保护数据和系统安全。

Github

Huggingface

介绍相关项目

awesome-llm-security - 发现LLM安全工具和资源，了解大语言模型的安全挑战

Black-box attackDefenseGithubLLM SecurityToolsWhite-box attack开源项目

收集了与LLM安全相关的顶级工具、文档和项目，包括白盒攻击、黑盒攻击、后门攻击和防御策略的研究论文，以及安全测试和保障工具。提供丰富资源，助力深入了解和应对大语言模型的安全问题，为研究人员和开发者提供实用指导。

garak - 生成式AI漏洞检测工具，评估语言模型安全性

GithubLLMgarakprompt injection开源项目数据泄露漏洞扫描

该工具检查LLM的潜在故障，包括幻觉、数据泄露、提示注入、错误信息、生成有害内容和越狱等。作为免费的命令行工具，支持多种生成模型，如Hugging Face、Replicate、OpenAI等。用户可通过pip或GitHub安装最新版本，并提供详尽的日志记录和报告功能，帮助识别和修复语言模型的漏洞。

TestMixtral - Transformers模型卡片生成工具助力AI开发与研究

GithubHuggingfacetransformers开源项目机器学习模型模型卡片模型评估环境影响

基于Transformers框架开发的模型卡片生成工具，能够标准化记录AI模型的基础特征、应用场景、局限性、训练参数等技术细节。系统化展示包含环境影响评估在内的完整模型信息，为AI开发者与研究人员提供规范的模型文档参考。

clip-vision-model-tiny - 轻量级AI图像处理与分析视觉模型

GithubHuggingfaceMIT协议代码许可开源协议开源项目模型许可证软件授权

基于MIT许可证开发的轻量级图像视觉模型，采用紧凑架构设计，具备高效的图像处理和分析能力。该开源项目适用于快速部署场景，可在资源受限环境中保持准确的图像识别表现。

awesome-security - 网络安全资源与开源工具精选

Github入侵检测安全监控开源项目漏洞扫描网络安全蜜罐系统

该项目汇集了丰富的网络安全资源,包括开源软件、库、文档和书籍等。内容涵盖网络、终端、威胁情报、社会工程等多个领域,并细分为扫描、监控、入侵检测、蜜罐等子类别。这一全面的资源库可为安全从业者提供有价值的参考,有助于提升网络防御能力。

Pixeebot - 智能代码安全与质量提升助手

AI工具Pixeebot代码质量安全修复开发流程自动化工具

Pixeebot是智能代码安全工具,实时监控代码仓库和pull请求,自动生成安全修复方案。它无缝融入开发流程,兼容多种编程语言,分析SAST工具扫描结果。除提升代码安全性外,还优化性能和质量。Pixeebot通过自动化手段,帮助开发团队提高工作效率,专注解决关键问题。

VulBERTa-MLP-MVD - 基于深度学习优化技术的源代码漏洞检测解决方案

GithubHuggingfaceVulBERTa代码安全开源项目模型深度学习源代码预训练漏洞检测

VulBERTa-MLP-MVD是一款基于深度学习的源代码漏洞检测工具。该模型在开源C/C++项目代码上预训练RoBERTa架构，有效学习代码语法和语义知识。经Vuldeepecker、Draper等多个数据集评估，VulBERTa展现出卓越的漏洞识别能力。其简化的分词流程提高了易用性，同时在训练数据量和模型规模上保持了较低开销，为代码安全分析提供了高效解决方案。

SwanLab - 开源AI实验跟踪工具支持多框架集成及云端协作

GithubSwanLab协作可视化实验跟踪开源项目机器学习

SwanLab是一款开源的AI实验跟踪工具，支持跟踪超参数、记录指标、在线协作和分享实验链接。该工具可与PyTorch、TensorFlow等主流框架集成，同时支持离线模式和自托管。SwanLab提供用户友好的API和直观界面，适用于个人研究和团队项目，能够帮助研究人员高效管理、比较和协作AI实验。

adversarial-robustness-toolbox - 机器学习安全与对抗性威胁防护库

Adversarial Robustness ToolboxGithubLinux Foundation AI & Data对抗性威胁开源项目机器学习安全模型防御

Adversarial Robustness Toolbox (ART) 是由 Linux Foundation AI & Data Foundation 托管的 Python 库，为开发者和研究人员提供评估和防护机器学习模型的工具，以抵御规避、投毒、提取和推理等对抗性威胁。ART 支持所有流行的机器学习框架（如 TensorFlow、Keras、PyTorch 等），适用于各种数据类型（图像、表格、音频、视频等）和任务（分类、目标检测、语音识别等）。持续开发中，欢迎反馈和贡献。

DVR-Scan - 开源视频运动事件检测工具

DVR-ScanGithub动作检测命令行工具开源软件开源项目视频分析

DVR-Scan是一款开源的视频分析工具，专门用于检测视频文件中的运动事件。它可识别视频中的运动区域，并将每个事件保存为独立视频片段。该工具支持多平台，包括Windows、Linux和Mac。DVR-Scan提供区域编辑器功能，允许用户选择特定扫描区域，还可绘制运动边界框。它通过pip简单安装，为安全摄像头录像分析提供了高效解决方案。

相关项目

项目侧边栏1

项目侧边栏2

推荐项目

Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手，通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能，支持100+编程语言，与主流编辑器无缝集成，显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台，能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐，Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案，通过智能技术简化视频制作流程。无论是企业宣传还是个人分享，有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持，能够阅读和理解用户上传的文件内容，解析网页信息，并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题，Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术，为商家提供一键生成商品图和营销文案的服务，显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台，让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型，免费访问各种图像生成与AI训练工具，从Stable Diffusion等基础模型开始，轻松实现创新图像生成。体验前沿的AI技术，推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器，它将改变您观看视频的方式！SubCat结合了先进的人工智能技术，为您提供即时视频字幕翻译，无论是本地视频还是网络流媒体，让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台，利用前沿AI技术，为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图，再到文案生成，美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具，简化了选题、文献检索至论文撰写的整个过程。通过简单设定，平台可快速生成高质量论文大纲和全文，配合图表、参考文献等一应俱全，同时提供开题报告和答辩PPT等增值服务，保障数据安全，有效提升写作效率和论文质量。

使用协议隐私政策广告服务

投诉举报邮箱: service@vectorlightyear.com

@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号