虚拟人物形象作为AI时代的标志性呈现产品，在大众视野日益活跃。

但带情感的虚拟人物你见过吗？？😲

这你受得了吗？？？😱

这不，它来了！！

文本引导情感表达化身生成技术—— InstructAvatar！

技术介绍

InstructAvatar是一种基于文本引导的2D化身生成框架。

能够提供细粒度控制、增强互动性并提升生成视频的通用性。

与以往的方法不同，InstructAvatar通过自然语言接口控制人物的情感和面部动作，从而实现高质量的口型同步和自然的角色动作。

情绪化谈话控制

面部运动控制

下面是与基线进行的效果比较展示：

Demo

情绪化谈话控制 带着高兴和惊讶的情绪说话。

面部运动控制 抬起脸颊并拉动嘴角。

请将头向左转。

张开嘴。

看了这么多惟妙惟肖的效果，小编已经感觉假假真真分不清现实与AI。😵‍💫 可能这就是AI的强大和魅力所在吧！！

技术原理

InstructAvatar框架由自动注释管道和基于扩散模型的生成器两部分组成。

自动注释管道用来构建一个配对了训练数据集的指令视频。

同时配备了一个新颖的基于双分支扩散的生成器，可以同时预测带有音频和文本指令的头像。

InstructAvatar使用预定义的模板扩展情绪标签，并通过使用表示程度的副词来修改情绪，从而融入强度信息。

为了进行细粒度控制，InstructAvatar提取动作单元AU，然后提示 GPT-4V 将它们解释成一个句子。

期待InstructAvatar在未来进一步优化模型，扩展在多种情感和动作模式下的控制能力！并探索更多实际场景中的应用。

小编已经迫不及待在未来创建自己的网络形象了！😎

🔗项目链接： https://wangyuchi369.github.io/InstructAvatar

关注「向量光年」公众号 加速全行业向AI的改变

关注「开源AI项目落地」公众号 与AI时代更靠近一点

关注「AGI光年」公众号 获取每日最新咨询