Project Icon

rebuff

为AI应用提供多层次的提示注入攻击防护

Rebuff 是一款自硬化的提示注入检测工具,通过多层次防御策略保护AI应用免受攻击。其主要功能包括启发式过滤、基于LLM的检测、VectorDB存储和金丝雀令牌检测。目前,该工具处于原型阶段,尚不能提供全面防护。项目支持JavaScript/TypeScript SDK,并计划推出Python SDK和本地模式等功能。了解更多关于安装、自托管和贡献的信息,请访问Rebuff官方网站。

Greptile AI - AI驱动的代码库分析工具 回答问题和审核PR
AI工具API人工智能开源项目数据库框架
Greptile AI是一款专注于代码库分析和管理的人工智能工具。作为代码库专家,它能回答各种代码相关问题,提供深入见解。该工具还具备自动审查拉取请求(PR)的功能,有助于提高开发团队效率。Greptile AI在解答复杂代码问题和简化代码审核流程方面表现出色,为开发者提供有力支持。
reverse-engineering-assistant - 优化逆向工程任务的AI助手,基于多工具方法
AI助手GithubLangchainReVA反向工程反编译开源项目
ReVA逆向工程助手项目提供了一个与特定反汇编器无关的AI助手,采用工具驱动的方法,帮助解决复杂的逆向工程任务。ReVA利用chain-of-reasoning技术与LLM配合完成任务,通过容错和减少LLM误差的方法提供更好的结果。支持多种模型和本地推理服务器,包括OpenAI和Ollama。项目集成Ghidra工具,提供高效的工作流程和操作日志记录功能,适合程序探索和详细分析。ReVA项目特点包括工具驱动的AI助手、多种模型支持、Ghidra工具集成、详细的操作日志和容错机制,确保在执行复杂逆向工程任务时提供准确的结果和顺畅的工作流程。
Aporia - 实时AI护栏和可观测性解决方案
AI可靠性AI安全AI工具AI监控人工智能企业级AI
Aporia平台为AI应用提供实时护栏和可观测性,确保可靠性和安全性。平台功能包括毒性检测、主题控制、幻觉检测和提示注入防护。采用多SLM检测引擎,具有低延迟和低成本优势,可轻松集成到现有AI工作流程。适用于工程师、产品经理和安全专家,帮助企业部署安全可信的AI解决方案。
Safety-Prompts - 中文大语言模型安全评估与优化
GithubSafety-PromptsSafetyBenchShieldLM大模型安全开源项目评测平台
Safety-Prompts项目提供用于评测和提升中文大语言模型安全性的prompts,确保模型输出与人类价值观一致。项目包含10万条安全场景prompts和ChatGPT回复,涵盖各类安全场景和指令攻击,并提供多选题评测平台,适用于训练和微调更安全的模型,帮助研究人员评估大模型安全性。
openprompt.co - 高频更新的多语言AI提示库
ChatGPTGPT-4GithubMidjourneyOpenPromptPython开源项目
提供高频更新的热门AI提示和指令,包括ChatGPT、GPT-4和Midjourney等。支持多种语言,如中文翻译和英文润色,方便用户在各种场景下流畅互动。欢迎反馈和建议,助力提升平台效能。
wildguard - 开源的用户请求与AI响应安全检测工具
GithubHuggingfaceWildGuard人工智能安全内容审核开源项目拒绝检测有害内容检测模型
这是一款开源工具,用于检测用户请求和AI响应的潜在危害与拒绝。在多项基准测试中表现出色,超越现有开源模型,并在对抗性提示的有害性评估中胜过GPT-4。它的审核涵盖隐私、虚假信息、有害语言和恶意用途等风险,为内容治理提供全面支持。虽然可能存在一定误判,但在审核准确性上表现领先。
AI Prompt Lab - AI提示管理与优化浏览器扩展工具
AI Prompt LabAI工具内容生成提示工程浏览器扩展
AI Prompt Lab是一款浏览器扩展工具,旨在优化AI工作流程。该工具支持创建、存储和管理AI提示,并与ChatGPT、Google Bard等AI平台集成。它提供直观的提示管理界面、预设提示库和教程资源,适用于多种在线应用场景。AI Prompt Lab为用户提供全面的AI提示工程解决方案,提高内容创作效率。
ReByte - 智能化企业AI平台 助力团队效率与数据管理
AI助手AI工具API集成数据同步结构化RAG访问控制
ReByte是面向企业的智能AI助手平台,集成多功能支持以提升团队效率。基于企业数据回答问题,执行复杂任务规划,提供高精度结构化数据RAG。支持多种数据源同步,兼容多种AI模型,内置细粒度访问控制。平台功能广泛API化,便于二次开发。ReByte致力于增强企业数据管理能力,推动创新发展。
PromptWise.ai - AI提示词增强工具 优化人机对话效果
AI工具AI提示优化PromptWise AI内容创作客户支持用户界面
PromptWise.ai是一款专业的AI提示词优化工具,通过添加上下文和提高精确度来增强简单提示词。此工具适用于开发者、内容创作者和研究人员等希望改善人工智能交互的用户。PromptWise.ai界面友好,简化了AI提示词优化过程,适合不同技能水平的用户使用。它还可以提升客户支持质量,为聊天机器人和自动响应系统优化提示词,全面提升人机对话效果。目前提供免费体验功能,欢迎体验PromptWise强大的AI提示词增强功能。
AI Prompt Genius - 创建和管理定制的AI提示库
AI-Prompt-GeniusAI工具AI开发AI绘图Chrome扩展GitHub开源提示指令热门
AI Prompt Genius助力用户自定义AI提示,打造个性化代码库。支持流程自动化和协作,提升开发效率。平台便于GitHub上的开源贡献和协作,推动软件开发革新。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

稿定AI

稿定设计 是一个多功能的在线设计和创意平台,提供广泛的设计工具和资源,以满足不同用户的需求。从专业的图形设计师到普通用户,无论是进行图片处理、智能抠图、H5页面制作还是视频剪辑,稿定设计都能提供简单、高效的解决方案。该平台以其用户友好的界面和强大的功能集合,帮助用户轻松实现创意设计。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号