#自复制提示

ComPromptMized项目研究了一种针对GenAI应用的新型自复制蠕虫攻击。研究利用对抗性自复制提示,通过GenAI模型传播恶意内容。实验在多种场景下测试了电子邮件助手,包括垃圾邮件传播和数据泄露攻击。这项研究揭示了GenAI应用的潜在安全风险,为制定防御措施提供了重要参考。