Project Icon

JailbreakingLLMs

高效突破大型语言模型安全限制的PAIR算法

JailbreakingLLMs项目开发了PAIR算法,用于高效生成大型语言模型的语义化越狱提示。该算法仅需黑盒访问权限,通过模拟社会工程攻击,实现自动化越狱过程。PAIR通常在20次查询内即可完成越狱,效率远超现有方法。实验表明,PAIR在各类开源和闭源语言模型上展现出优秀的越狱成功率和可迁移性。

Prompt-Guard-86M - AI应用的安全防护模型
GithubHuggingfaceLlama分类器大语言模型安全开源项目提示攻击模型
Prompt-Guard-86M是一个基于大型语言模型的分类器,专门用于检测和防范AI应用中的恶意提示攻击。通过大规模攻击数据集训练,该模型能够有效识别提示注入和越狱等威胁。作为开源项目,Prompt-Guard-86M为开发者提供了一个可靠的基础,以降低提示攻击风险,同时允许根据特定应用需求进行定制。
CipherChat - 非自然语言安全对齐的系统性框架分析
CipherChatGPT-4Github加密方法安全对齐实验结果开源项目
该新框架系统性分析了安全对齐在非自然语言中的可推广性,探索如何使用人类无法阅读的密码绕过LLMs的安全对齐机制。通过将输入转换为密码形式处理,再使用基于规则的解密器将输出还原为自然语言。项目提供了实验结果和使用示例,确保在研究中有效应用。
Awesome_GPT_Super_Prompting - ChatGPT安全资源大全
AI Adversarial PromptingChatGPT JailbreaksGithubPrompt EngineeringPrompt InjectionSecure Prompting开源项目
这个项目提供全面的ChatGPT安全资源,包括Jailbreak破译、系统提示泄露、提示注入和对抗性机器学习。通过详细示例和指南,帮助用户理解LLM工程和提升提示安全,无论是研究漏洞还是改进提示工程,都是AI开发者和安全专家的理想工具。
DecryptPrompt - LLM相关技术与应用
AI应用GithubLLM大模型开源项目指令微调解密Prompt系列
《DecryptPrompt》提供全面的LLM应用、训练框架、优化策略和技术指南。覆盖大模型比较、微调技术、开源资源及实操案例,助力用户掌握最新AI动态和前沿技术,尤其深度涉及agent指令微调和LLM应用设计。
mllm - 轻量级移动设备多模态大语言模型推理引擎
AI推理引擎Githubmultimodal LLM开源项目移动设备边缘计算量化
mllm是一款针对移动和边缘设备优化的多模态大语言模型推理引擎。该引擎采用纯C/C++实现,无外部依赖,支持ARM NEON和x86 AVX2指令集,并提供4位和6位整数量化。开发者可利用mllm构建智能个人助理、基于文本的图像搜索、屏幕视觉问答等移动应用,实现本地推理而无需上传敏感数据。
hackingBuddyGPT - 借助LLM的自动化渗透测试工具,提升安全性并发现漏洞
GithubHackingBuddyGPTLLMslinux特权升级安全研究开源项目渗透测试
HackingBuddyGPT是一个使用大语言模型(LLM)进行安全测试的框架,仅需50行代码即可发现新的攻击向量,并利用AI提高渗透测试效率。该项目旨在成为安全研究人员和渗透测试人员的首选工具,支持Linux权限提升基准测试,并公开所有研究成果。了解LLM在模拟黑客行为中的作用,加入Discord社区获取更多支持和交流。
mlc-llm - 通用大语言模型高性能部署引擎
AI模型优化GithubMLC LLMMLCEngine开源项目机器学习编译器高性能部署
MLC LLM是一款用于大语言模型的高性能部署引擎,支持用户在各种平台上开发、优化和部署AI模型。核心组件MLCEngine通过REST服务器、Python、JavaScript、iOS和Android等接口提供OpenAI兼容的API,支持AMD、NVIDIA、Apple和Intel等多种硬件平台。项目持续优化编译器和引擎,与社区共同发展。
Jailbroken ChatGPT - 突破限制的ChatGPT对话平台
AIAI工具APIChatGPTOpenAI黑客
Jailbroken ChatGPT突破常规AI对话限制,支持更深入的问题探讨、创意生成和复杂任务处理。用户只需输入OpenAI API密钥,即可体验这个修改版ChatGPT的强大功能,实现更自由、更有深度的AI交互。探索AI的更多可能性,享受开放式对话和不受约束的回答。
prompt-hacker-collections - LLM提示词注入攻防及示例资源合集
AI安全ChatGPTGithubPrompt-adversarial开源项目提示词注入越狱提示词
本项目集合了LLM提示词注入的攻击与防御资源,包含详细的案例分析、研究笔记和多种模型提示词,适合研究人员、学生和安全专家使用。
mlx_parallm - 为Apple Silicon设备实现高效并行推理
Apple SiliconGithubMLX ParaLLM并行推理开源项目批处理KV缓存语言模型
MLX ParaLLM是一个为Apple Silicon设备开发的开源项目,利用MLX框架实现批处理KV缓存技术,从而提高并行推理效率。项目支持Meta-Llama、Phi-3和Gemma等多种模型,兼容量化和float16格式。通过batch_generate方法,MLX ParaLLM实现自动填充、提示模板格式化和多种采样策略,适用于大规模并行文本生成任务。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

白日梦AI

白日梦AI提供专注于AI视频生成的多样化功能,包括文生视频、动态画面和形象生成等,帮助用户快速上手,创造专业级内容。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

讯飞绘镜

讯飞绘镜是一个支持从创意到完整视频创作的智能平台,用户可以快速生成视频素材并创作独特的音乐视频和故事。平台提供多样化的主题和精选作品,帮助用户探索创意灵感。

Project Cover

讯飞文书

讯飞文书依托讯飞星火大模型,为文书写作者提供从素材筹备到稿件撰写及审稿的全程支持。通过录音智记和以稿写稿等功能,满足事务性工作的高频需求,帮助撰稿人节省精力,提高效率,优化工作与生活。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号