Project Icon

DIVA

扩散模型辅助CLIP增强视觉理解能力

DIVA是一种创新方法,利用扩散模型作为视觉助手优化CLIP表示。通过文本到图像扩散模型的生成反馈,DIVA无需配对文本数据即可提升CLIP视觉能力。在MMVP-VLM细粒度视觉评估基准上,DIVA显著提升了CLIP性能,同时保持了其在29个图像分类和检索基准上的强大零样本能力。这为增强视觉语言模型的视觉理解开辟了新途径。

MoE-LLaVA - 高效视觉语言模型的新方向
GithubMoE-LLaVA多模态学习大视觉语言模型开源项目性能表现稀疏激活
MoE-LLaVA项目采用混合专家技术,实现了高效的大规模视觉语言模型。该模型仅使用3B稀疏激活参数就达到了与7B参数模型相当的性能,在多项视觉理解任务中表现优异。项目提供简单的基线方法,通过稀疏路径学习多模态交互,可在8张A100 GPU上1天内完成训练。MoE-LLaVA为构建高性能、低参数量的视觉语言模型探索了新的方向。
CLIP-ViT-bigG-14-laion2B-39B-b160k - CLIP-ViT-bigG-14模型实现高效零样本图像分类与检索
CLIPGithubHuggingfaceLAION-2BViT-bigG/14开源模型开源项目模型零样本图像分类
CLIP-ViT-bigG-14-laion2B-39B-b160k是基于LAION-2B数据集训练的大规模视觉语言模型。该模型在零样本图像分类、图像文本检索等任务中表现出色,在ImageNet-1k测试中实现80.1%的零样本top-1准确率。模型采用ViT-bigG/14架构,由stability.ai提供计算资源支持。虽然适合研究人员探索零样本分类和跨模态学习,但目前不建议直接应用于商业场景。
diffusion-classifier - 利用大规模文本到图像生成模型实现零样本分类
Diffusion ClassifierGithubICCV 2023Stable Diffusionzero-shot分类开源项目生成模型
本项目展示了如何利用大型文本图像生成模型如Stable Diffusion进行零样本分类,无需额外训练。该生成分类方法在多项基准测试中表现优越,超过其他扩散模型的知识提取方法。通过从ImageNet的类条件扩散模型中提取标准分类器,该模型即使在仅使用弱增强的情况下也表现出强大的分类性能和分布转移的稳健性。本研究推进了生成模型在下游任务中的应用,是对多模态组合推理能力的重要探索。
DEADiff - DEADiff模型实现高效风格化图像生成
DEADiffGithub图像风格化开源项目扩散模型文本到图像生成计算机视觉
DEADiff是一种风格化扩散模型,通过参考图像风格和文本提示生成新颖图像。该模型利用解耦表示技术,实现高效风格迁移和文本引导图像生成。DEADiff可将多种风格应用于不同场景,同时保持内容准确性。这项研究由中国科学技术大学和字节跳动的团队完成,并在CVPR 2024上发表。
Segment-Anything-CLIP - 整合Segment-Anything与CLIP的图像分析框架
CLIPGithubsegment-anything人工智能图像分割开源项目计算机视觉
项目通过结合Segment-Anything的分割能力和CLIP的识别功能,构建了一个高效的图像分析框架。系统可自动生成多个分割掩码,并对每个掩码区域进行分类。这种创新方法不仅提高了图像分析的精度,还为计算机视觉领域的研究和应用开辟了新途径。
MetaCLIP - CLIP模型数据处理优化工具
CLIPGithubMetaCLIP图像文本对开源项目数据清洗预训练模型
MetaCLIP是一个改进CLIP模型数据处理的开源项目。它提出了一种新的数据筛选算法,无需依赖现有模型即可从头整理数据。该项目强调数据质量,提供了可扩展到CommonCrawl全数据集的方法。MetaCLIP公开训练数据分布,提高了透明度,并为CLIP模型提供标准化的实验设置,便于控制实验和公平比较。
InstanceDiffusion - 实现精确实例级图像生成控制的突破性方法
GithubInstanceDiffusion图像生成实例级控制开源项目文本到图像条件生成
InstanceDiffusion为文本到图像的扩散模型引入精确的实例级控制。该技术支持每个实例的自由语言条件,可灵活指定实例位置,包括单点、涂鸦、边界框和实例分割掩码。相比现有技术,InstanceDiffusion在框输入的AP50上提升2.0倍,掩码输入的IoU提高1.7倍,为图像生成和编辑领域带来新的可能性。
ViT-B-32__openai - CLIP模型的ONNX导出版本用于图像和文本嵌入生成
CLIPGithubHuggingfaceImmich图像编码器开源项目文本编码器模型自托管照片库
ViT-B-32__openai项目是CLIP模型的ONNX导出版本,将视觉和文本编码器分离为独立模型。这种设计适用于生成图像和文本嵌入,特别针对Immich自托管照片库。该项目可用于处理大量图像和文本数据,有助于改进图像检索和跨模态搜索功能。
LLaVAR - 优化视觉指令微调的文本丰富图像理解模型
GithubLLaVAROCR能力多模态大语言模型开源项目文本丰富图像理解视觉指令微调
LLaVAR项目致力于增强大型语言模型对文本丰富图像的理解能力。通过改进视觉指令微调方法,该项目显著提升了模型在OCR相关任务上的表现。LLaVAR开源了模型权重、训练数据,并提供了环境配置、训练脚本和评估方法,为相关研究和开发提供了全面支持。
stable-diffusion-v1-5 - 先进的文本到图像AI生成模型
GithubHuggingfaceStable Diffusion人工智能开源项目文本生成图像机器学习模型深度学习
Stable Diffusion v1-5是一种基于潜在扩散的文本到图像生成模型。它在LAION-5B数据集上经过595k步训练,可生成512x512分辨率的高质量图像。该模型适用于艺术创作、设计和研究,但存在人脸和文字渲染的局限性。模型通过Diffusers库提供,但不应用于生成有害内容。Stable Diffusion v1-5代表了AI图像生成技术的重要进展。
项目侧边栏1项目侧边栏2
推荐项目
Project Cover

豆包MarsCode

豆包 MarsCode 是一款革命性的编程助手,通过AI技术提供代码补全、单测生成、代码解释和智能问答等功能,支持100+编程语言,与主流编辑器无缝集成,显著提升开发效率和代码质量。

Project Cover

AI写歌

Suno AI是一个革命性的AI音乐创作平台,能在短短30秒内帮助用户创作出一首完整的歌曲。无论是寻找创作灵感还是需要快速制作音乐,Suno AI都是音乐爱好者和专业人士的理想选择。

Project Cover

有言AI

有言平台提供一站式AIGC视频创作解决方案,通过智能技术简化视频制作流程。无论是企业宣传还是个人分享,有言都能帮助用户快速、轻松地制作出专业级别的视频内容。

Project Cover

Kimi

Kimi AI助手提供多语言对话支持,能够阅读和理解用户上传的文件内容,解析网页信息,并结合搜索结果为用户提供详尽的答案。无论是日常咨询还是专业问题,Kimi都能以友好、专业的方式提供帮助。

Project Cover

阿里绘蛙

绘蛙是阿里巴巴集团推出的革命性AI电商营销平台。利用尖端人工智能技术,为商家提供一键生成商品图和营销文案的服务,显著提升内容创作效率和营销效果。适用于淘宝、天猫等电商平台,让商品第一时间被种草。

Project Cover

吐司

探索Tensor.Art平台的独特AI模型,免费访问各种图像生成与AI训练工具,从Stable Diffusion等基础模型开始,轻松实现创新图像生成。体验前沿的AI技术,推动个人和企业的创新发展。

Project Cover

SubCat字幕猫

SubCat字幕猫APP是一款创新的视频播放器,它将改变您观看视频的方式!SubCat结合了先进的人工智能技术,为您提供即时视频字幕翻译,无论是本地视频还是网络流媒体,让您轻松享受各种语言的内容。

Project Cover

美间AI

美间AI创意设计平台,利用前沿AI技术,为设计师和营销人员提供一站式设计解决方案。从智能海报到3D效果图,再到文案生成,美间让创意设计更简单、更高效。

Project Cover

AIWritePaper论文写作

AIWritePaper论文写作是一站式AI论文写作辅助工具,简化了选题、文献检索至论文撰写的整个过程。通过简单设定,平台可快速生成高质量论文大纲和全文,配合图表、参考文献等一应俱全,同时提供开题报告和答辩PPT等增值服务,保障数据安全,有效提升写作效率和论文质量。

投诉举报邮箱: service@vectorlightyear.com
@2024 懂AI·鲁ICP备2024100362号-6·鲁公网安备37021002001498号