访问官网
Github
Huggingface
文档项目概述
Florence-2-base-ft是一个基于Microsoft Florence-2模型的ONNX版本实现，专门针对Transformers.js进行了优化适配。该项目主要专注于图像到文本的生成任务，能够根据输入的图像生成详细的文字描述。
技术特点
该项目具有以下特点：
- 基于Microsoft的Florence-2-base-ft模型
- 使用ONNX格式进行模型权重存储
- 支持图像到文本的生成能力
- 可与Transformers.js框架无缝集成
- 采用MIT开源协议
使用方法
项目的使用需要依赖Transformers.js v3版本，开发者可以通过npm从GitHub直接安装。使用过程主要包含以下步骤：
- 导入必要的模块和组件
- 加载预训练模型、处理器和分词器
- 处理输入图像
- 构建文本提示
- 生成文字描述
- 解码和后处理生成结果
功能演示
项目提供了在线演示空间，用户可以直接访问Hugging Face Spaces体验模型效果。以一个实际案例为例，当输入一张汽车图片时，模型能够生成类似"一辆绿色汽车停在棕褐色建筑物前，建筑物后面有一个棕色的门，建筑物正面有两个窗户"这样详细的描述。
技术说明
该项目目前采用单独的ONNX权重存储方案，这是在WebML技术普及之前的临时解决方案。对于希望让模型支持Web环境的开发者，建议使用🤗 Optimum工具将模型转换为ONNX格式，并将权重文件存放在名为"onnx"的子文件夹中。
应用场景
该项目可应用于多个领域：
- 图像内容自动描述
- 辅助视觉描述系统
- 图像数据的文本标注
- 视觉内容理解和分析
