#深度学习
Awesome-Transformer-Attention学习资源大全 - 视觉Transformer和注意力机制论文列表
vit-base-patch32-384
Vision Transformer（ViT）是一款图像分类模型，采用Transformer编码器架构，通过将图像分割为固定大小patch进行处理。模型在包含1400万张图像的ImageNet-21k数据集完成预训练，并在ImageNet-1k数据集上进行384x384分辨率的微调。提供预训练权重，可直接应用于图像分类或迁移学习任务。
tf_efficientnetv2_m.in21k_ft_in1k
EfficientNetV2模型在ImageNet-21k数据集上预训练，并在ImageNet-1k上微调，最初使用TensorFlow构建，由Ross Wightman移植至PyTorch。其参数量为54.1M，能够在不同分辨率下实现精确的图像识别，并支持通过timm库执行图像分类、特征提取和嵌入生成等多任务。
ddpm-ema-church-256
ddpm-ema-church-256项目采用DDPM模型进行图像合成，结合扩散概率模型与Langevin动态，取得CIFAR10数据集Inception分数9.46和FID分数3.17。支持DDPM、DDIM、PNDM调度器推理，实现质量与速度平衡，并提供预训练管道以生成高质量图像。项目为图像生成与压缩提供了创新思路。
STRANGER-ANIME
项目使用Huggingface API生成逼真的数字艺术图像，通过关键词组合生成细致且富有情感的视觉效果。用户可以根据需要调整诸如头发颜色、眼睛颜色和雨天等图像细节，实现个性化艺术创作，适用于艺术设计和视觉表达等领域，展示出现代AI在视觉艺术中的应用能力。
SwallowMaid-8B-L3-SPPO-abliterated
SwallowMaid-8B-L3-SPPO-abliterated项目通过mergekit工具多步骤合并多种预训练语言模型，提升模型整体性能及角色扮演功能。该项目结合Llama-3-Instruct-abliteration-LoRA-8B等模型，采用线性和任务算术方法，并注入35% RP-Mix向量方向，增强角色扮演与叙事能力，同时保留Meta's Llama-3-Instruct微调特质，提升人机交互体验。
zephyr-7B-alpha-AWQ
Zephyr 7B Alpha是一个基于Mistral-7B训练的对话助手模型。本版本采用AWQ量化技术将模型压缩至4位精度,使用wikitext数据集和128g量化参数进行优化。相比GPTQ,AWQ量化能提供更快的推理速度,同时显著降低显存占用,使模型可以在配置较低的GPU上高效部署运行。
DanTagGen-beta
DanTagGen-beta是一款基于LLaMA架构的AI标签生成器，专为Danbooru风格的AI艺术创作设计。通过5.3M数据集训练，该工具能够根据基础标签智能推荐相关标签，有效提升生成图像的质量和细节。DanTagGen-beta支持多种部署方式，包括llama.cpp和量化模型，为AI艺术创作者提供了高效的标签辅助工具。
eva02_large_patch14_448.mim_m38m_ft_in22k_in1k
EVA02_large_patch14_448是一个基于视觉Transformer架构的图像处理模型，通过在Merged-38M数据集预训练和ImageNet数据集微调，在图像分类任务中达到90.054%的准确率。模型整合了均值池化、位置编码等技术，支持图像分类和特征提取应用。
convnextv2_large.fcmae_ft_in22k_in1k
ConvNeXt-V2是一个大型图像分类模型，通过FCMAE框架预训练并在ImageNet数据集上微调。模型包含1.98亿参数，Top1准确率达87.26%，可用于图像分类、特征提取和嵌入等计算机视觉任务。其224x224的标准训练分辨率和多功能性使其成为视觉处理的实用选择。