访问官网
Github
论文HumanTOMATO项目介绍
项目概述
HumanTOMATO是一个创新的文本驱动全身体动作生成项目。其目标是通过输入文本描述生成高质量、富有多样性且连贯的面部表情、手势和身体动作。这一项目试图解决以往文本驱动运动生成研究中的两个主要局限：一是忽视了精细的手势和面部表情在生动全身体动作中的关键作用，二是缺乏文本与运动之间的良好对齐。
解决方案
为了克服这些挑战，HumanTOMATO框架推出了两项关键设计：
-
全方位等级向量量化 (H²VQ)和Hierarchical-GPT： 采用两个结构化代码表用于精细身体和手部动作的重构和生成，确保生成的动作具有层次结构关系。
-
预训练文本-动作对齐模型： 帮助生成的动作精确对齐输入的文本描述。这样，文本与动作之间的关联更加紧密，生成的动作也更加符合自然语境。
主要亮点
HumanTOMATO模型能够生成与文本对齐的全方位动作，包括生动而协调的面部、手部和身体动作。项目展示了两个高质量的生成结果，证明了其在动作用质量和文本对齐上的显著优势。
系统概述
HumanTOMATO的系统可以分为几个部分：
- 全方位等级向量量化 (H²VQ)： 将精细的身体和手部动作压缩成两个具有层级结构关系的离散代码表。
- Hierarchical-GPT： 使用运动感知文本嵌入作为输入层级生成身体和手部动作。
- 面部文本条件变分自编码器 (cVAE)： 生成相应的面部动作。身体、手部和面部动作共同构成生动且与文本对齐的全身体动作。
寻求合作
如果本项目代码对您的研究有帮助，请在相关文档中进行引用。
授权
HumanTOMATO项目遵循IDEA许可协议，同时也基于其他一些拥有自身许可协议的库和数据集。
项目致谢所有代码库TMR、MLD、T2M-GPT和HumanML3D的贡献者，这些基础工作对HumanTOMATO项目的开展有重要支持。如有疑问，请通过邮箱与项目作者联系。
通过以上介绍，我们可以了解到HumanTOMATO在文本驱动全身体运动生成领域的独特创新和重大贡献。希望这项工作能为该领域的研究者提供新的思路和实践工具。
