E
EchoMimic
badtobest.github.io又名 EchoMimic、EchoMimicV1、EchoMimicV2
蚂蚁集团支付宝终端技术部开源的肖像动画生成项目,可用音频、面部关键点或两者结合驱动静态人像生成口型与表情同步的视频,需自行配置环境、下载权重再推理,适合能跑模型的研究者与开发者。
工具英文开源
EchoMimic 是蚂蚁集团支付宝终端技术部推出的肖像动画生成项目,解决的是「让一张静态人像开口说话」这件事。给它一段音频和一张人脸照片,它就能生成口型与表情随声音变化的视频。项目以论文加开源代码的形式发布,代码托管在 GitHub,模型权重放在 HuggingFace 和 ModelScope 上。
驱动方式
和只用音频或只用面部关键点的做法不同,EchoMimic 把两种信号放在一起训练,因此有三种用法:只给音频、只给关键点,或者给音频再挑几个关键点做局部控制。页面上的示例按中文语音、英文语音、唱歌、关键点驱动、音频加选定关键点分了几组,也放了在 HDTF 数据集上的评测视频和第三方复现结果。
系列与版本
页面把项目分成两代:EchoMimicV1 是这套可编辑关键点条件控制的肖像动画,EchoMimicV2 转向更简化、带半身的人体动画。两代各有独立的 GitHub 仓库,引用信息显示论文发布于 2024 年,arXiv 编号 2407.08136。
适合谁
它面向的是能跑模型的研究者和开发者,不是点开网页就能用的成品工具。想实际生成视频,需要自己按仓库说明配置环境、下载权重再推理,对显卡和部署能力有要求。普通用户如果只是想给照片配个说话视频,用现成的数字人产品会更省事。
常见问题
EchoMimic 的替代品有哪些?
本站整理了 5 个替代品,例如 MuseTalk、OmniHuman-1、VASA-1、MagicAvatar。