项目介绍:stable-diffusion-webui-depthmap-script
概述
stable-diffusion-webui-depthmap-script 是一个专为 AUTOMATIC1111 的 Stable Diffusion WebUI 设计的插件。这个程序能够生成深度图,同时支持使用生成的或自定义的深度图创建 3D 立体图像对(包括并排或红蓝的立体成像)、法线贴图以及 3D 网格。生成的结果不仅可以直接查看,还可以作为3D引擎的资源使用。它与 Rembg 工具有集成,并支持批量处理、视频处理,也可以独立于 Stable Diffusion WebUI 运行。
功能特色
高分辨率深度图生成
该工具利用多个深度学习模型生成逼真的深度图,包括 Marigold、MiDaS、ZoeDepth 和 LeReS等。通过采用多分辨率合并作为策略,以提升深度图的分辨率,这一策略已经在 BoostingMonocularDepth 项目中实现。
立体图像生成
此插件使用自定义算法生成立体图像,可以创建并排和红蓝立体(anaglyph)两种模式的图像。
3D 摄影和视频渲染
借助于3D 摄影技术和上下文感知的层次化深度修补算法,该工具能够生成3D修补网格,并从中渲染出视频。
使用方法
用户可以在插件安装后,从 WebUI 界面选择"DepthMap"脚本,支持在 txt2img 或 img2img 中使用,还可以针对已有图片在 Depth 标签下操作。模型可在 GPU 和 CPU 上运行,具备十种可选深度模型。通过调整分辨率和使用 "Boost" 功能,用户可以在平衡计算时间和深度图质量方面进行优化。
安装与更新
通过 WebUI 界面,用户可以在"Extensions"标签下直接安装此插件,也支持从指定URL安装。更新插件时,可在"Installed"子标签中检索更新并应用。
独立运行模式
对于需要在独立环境下运行的用户,项目支持克隆代码仓库,安装依赖并通过脚本 main.py 启动。
用例与应用
这是一个灵活的工具,不仅适用于创建立体图像,还可以在现有图片上创造新的效果。通过独立或批量处理,甚至可以将此工具用于视频生成。其应用包括: 深度图生成、立体图像制作、3D网格生成和 3D 视频渲染等。
常见问题及帮助
项目提供了丰富的使用指南和常见问题解答,用户可以从中获取如何在现有图片上应用插件的步骤、在不同环境下运行的方法,以及相关的深度处理项目建议。此外,项目鼓励开发者参与完善功能和修复Bug。
致谢
stable-diffusion-webui-depthmap-script 依赖于多个优秀的开源项目和学术论文,涵盖了多个方面的技术和模型整合,感谢所有为这些项目做出贡献的开发者和研究者。