Project Icon

PyRIT

Microsoft开源AI安全评估框架

PyRIT是Microsoft开发的开源AI安全评估框架,用于自动化测试生成式AI模型的安全性。它帮助研究人员和工程师评估AI系统对虚假信息、滥用和违规内容的抵抗能力。PyRIT支持建立基准、比较不同版本的模型性能,并提供数据以检测安全性能变化。这使开发者能持续改进AI系统的安全防护措施,提高生成式AI的可靠性和安全性。

GPT-RAG - GPT-RAG企业级数据集成与零信任安全
AzureEnterprise RAGGPT-RAGGithubRAG大模型开源项目
GPT-RAG解决方案加速器为企业提供了稳固的架构,适用于企业级RAG模式部署。该架构通过零信任安全和负责任的AI,确保响应的可靠性、可用性、可扩展性和可审计性。其模块化组件包括数据采集、编排和前端应用,使得企业能够从探索阶段顺利过渡到大规模生产和MVP阶段。
bandit - 开源Python代码安全审计工具
BanditGithubPyCQAPython代码审计安全检查开源项目
Bandit是PyCQA开发的开源Python代码安全扫描工具,通过构建AST并运行插件来检测常见安全问题。它支持多种架构,提供Docker镜像,并得到Tidelift等公司赞助。Bandit采用Apache许可证,为开发者提供免费可靠的Python代码安全审计方案。该工具可生成详细报告,帮助开发人员识别和修复潜在的安全漏洞。
Confident AI - 开源LLM评估平台加速企业AI应用落地优化
AI工具AI评估DeepEvalLLM测试开源工具性能分析
Confident AI作为开源大语言模型评估平台,提供全面LLM测试方案。平台支持多种评估指标和快速单元测试,并具备A/B测试、输出分类和报告功能。这些特性有助于企业优化LLM工作流程,提高投资回报率,加快AI解决方案的市场化进程。Confident AI为企业提供了可靠的工具,以更高效地将LLM应用部署到生产环境。
RLAIF-V - 多模态大模型对齐的开源AI反馈框架
GithubRLAIF-V人工智能反馈可信性多模态大语言模型开源开源项目
RLAIF-V项目提出了一种新的多模态大模型对齐框架,通过开源AI反馈实现了超越GPT-4V的可信度。该框架利用高质量反馈数据和在线反馈学习算法,有效减少模型幻觉,提高学习效率和性能。项目开源的代码、模型权重和数据集为多模态人工智能研究提供了重要资源。
AI-TDD - GPT驱动的测试驱动开发工具,自动生成验证通过的代码
AI + TDDBunGPTGithub前端测试开源项目测试驱动开发
AI-TDD项目使用GPT技术,通过编写测试用例自动生成代码,实现高效测试驱动开发。简单易用的命令行安装和配置,使AITDD能够无缝集成到现有开发流程中,支持Jest和Testing Library等前端测试框架。AI-TDD使用OpenAI最新GPT模型,确保代码的准确性和合规性,实现自动化测试验收。
can-ai-code - 通过人类撰写的面试题测试AI的编程能力
AI codingDockerGithubLLMquantizationtesting suite开源项目
该项目通过人类撰写的面试题测试AI的编程能力,提供多种主流API提供商和CUDA支持的推理脚本,并在基于Docker的沙盒环境中验证Python和NodeJS代码的安全性。用户可以评估提示技巧和采样参数对大语言模型(LLM)编码性能的影响,以及量化对LLM编码性能的衰减影响。项目包括多语言测试套件和来自OpenAI的Python-only测试套件,支持对比分析,并提供了详尽的结果数据和评估脚本。
AutoAudit - AutoAudit-开源网络安全人工智能模型
AutoAuditClamAVGithub大模型开源项目网络安全自然语言处理
AutoAudit项目开源专用于网络安全的大语言模型,致力于通过自然语言处理技术支持安全审计和防御。该模型能进行恶意代码分析、网络攻击检测和安全漏洞预测,并与ClamAV集成。当前版本基于Alpaca-Lora训练,未来将增强逻辑推理能力和数据集准确性,并加入更多安全扫描工具。
yara - 多功能恶意软件分析和识别引擎
GithubYARA多平台字符串匹配开源项目恶意软件分析规则创建
YARA是一个开源的恶意软件分析引擎,能够基于文本或二进制模式创建规则来识别和分类恶意软件。它支持多平台运行,提供命令行界面和Python接口。YARA以其灵活性和强大的功能受到Cisco、FireEye、Kaspersky等众多知名安全公司的青睐,已成为网络安全领域的重要工具。
Red-Teaming-Toolkit - 强化渗透测试和威胁模拟的开源资源库
Github威胁检测对抗模拟开源安全工具开源项目渗透测试红队工具包
Red-Teaming-Toolkit收集了众多开源安全工具,涵盖红队行动全流程。从侦察到数据窃取,包括Cobalt Strike等C2框架,为渗透测试提供全面支持。该项目既有助于红队提升技能,也为蓝队优化防御策略提供参考,是一个兼顾攻防的综合性安全资源库。
SerpentAI - 强大的游戏代理框架,提供机器学习与AI研究的工具
GithubPythonSerpent.AI开源开源项目机器学习游戏代理框架热门
Serpent.AI是一个简单而强大的游戏代理框架,专为开发者打造,以协助他们利用Python开发视频游戏代理。该框架旨在为机器学习和人工智能研究提供有价值的工具,同时也适合爱好者使用。框架支持少依赖、易于使用,并提供图形用户界面。Serpent.AI支持Linux和Windows系统,采用开源MIT许可证,并探索为非技术用户提供Steam分发。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号