#多模态数据
MotionGPT
MotionGPT是一种整合人体动作和语言的统一模型,专注于两种模态间的语义耦合学习。在诸多人体动作任务中表现优异,包括文本驱动动作生成、动作标题生成及动作预测。该模型结合预训练与指令性微调,能高效处理多种动作相关任务,是动作语言模型的新代表。此外,其零拍技术使其能识别新词汇并生成相应动作,突显处理复杂场景的能力。
lancedb
LanceDB 是一款开源的多模态向量数据库,具备持久存储功能,能够简化嵌入的管理与检索。它支持生产级别的向量搜索,无需管理服务器,可存储、查询和过滤向量、元数据以及多模态数据(包括文本、图片、视频、点云等)。它还支持向量相似性搜索、全文搜索和SQL查询,并提供原生的Python和JavaScript/TypeScript支持,同时实现零拷贝和自动版本管理。LanceDB 与 LangChain、LlamaIndex、Apache-Arrow、Pandas、Polars、DuckDB 等多个生态系统集成。其核心由Rust编写,基于Lance构建,专为高性能机器学习工作负载而设计。
labelU
LabelU是一个多模态数据标注平台,提供图像、视频和音频处理工具。支持2D边界框、语义分割、多边形和关键点等图像标注功能,以及视频分割、分类和信息提取。具备音频分析能力,支持AI辅助标注。适用于数据分析和模型训练,提高标注效率和准确性。
3d-bat
3D-BAT是一个开源的3D边界框标注工具箱,专门用于全景多模态数据流的处理。该工具支持AI辅助标注、批量编辑和插值模式等功能,实现了3D到2D的标签转换和自动跟踪。作为基于Web的应用,3D-BAT支持在线访问和跨平台使用,并提供了高度的可定制性。这个工具箱为自动驾驶和计算机视觉等领域的研究提供了一个实用的数据标注解决方案。
rerun
Rerun是一个开源的多模态数据可视化SDK,支持C++、Python和Rust编程语言。它能够记录和处理图像、张量、点云和文本等多种数据类型,并提供实时流式传输到Rerun Viewer或保存为文件的功能。这个工具特别适合机器人、仿真和计算机视觉等领域的开发者,有助于深入理解复杂的时间序列数据处理过程。
Daft
Daft是一个Rust实现的分布式查询引擎,为Python提供大规模数据处理能力。它提供交互式API、查询优化、数据目录集成、多模态类型系统和Apache Arrow兼容性。Daft可处理图像、嵌入向量等复杂数据,支持交互式和分布式计算,适用于多种数据分析场景。其云优化设计带来高效I/O性能。