Github
论文Woodpecker 项目介绍
项目背景
在多模态大语言模型（MLLMs）逐渐成熟的过程中，"幻觉"现象成为一个显著问题。所谓幻觉，指的是生成的文本与给定图像内容不一致。这种现象对模型的准确性造成了影响，而现有的解决方案主要依赖于需要特定数据重新训练模型的指令调优方式。
项目简介
Woodpecker 项目提出了一种创新性的无训练解决方案，旨在识别和纠正模型生成文本中的幻觉问题。项目的灵感来源于啄木鸟通过啄食来治疗树木的形式，因此命名为“Woodpecker”。该方法不需要对现有模型进行重新训练，而是通过以下五个阶段实现对幻觉问题的纠正：
- 关键概念提取：识别文本中与图像相关的核心概念。
- 问题生成：基于关键概念提出验证问题。
- 视觉知识验证：利用图像验证问题的答案。
- 视觉声明生成：生成与验证结果一致的文本描述。
- 幻觉纠正：修改生成文本中的不一致内容。
Woodpecker 可以被集成到不同的多模态大语言模型中，并通过访问五个阶段的中间结果提供可解释性。
项目成果
Woodpecker 项目在 POPE 基准测试中展现了其显著的潜力，相比基线模型 MiniGPT-4 与 mPLUG-Owl，准确性分别提高了 30.66% 和 24.33%。另外，项目也在其他多个基准测试中进行了评估，验证其在处理目标级和属性级幻觉方面的质量和表现。
演示和使用
用户可以在线体验 Woodpecker 的在线演示，感受该方法的实际应用效果。
初步准备
- 创建 Conda 环境并安装必要的包和模型。
- 运行推理代码用于根据图像和文本输出进行纠正。
详细的安装步骤和使用说明可以在项目的 GitHub 页面找到。
鸣谢
Woodpecker 项目的开发得益于多个优秀开源项目的支持，包括 mPLUG-Owl、GroundingDINO、BLIP-2 和 LLaMA-Adapter。感谢这些项目提供的卓越工作。
如果读者对 Woodpecker 项目感兴趣，可以参考 arXiv 论文 获取更为详细的技术细节。同时，也欢迎关注项目的 在线演示 以了解其应用。
