Audio2Face-3D

build.nvidia.com又名 Audio2Face

英伟达在 NIM 平台上提供的音频驱动面部动画模型,把流式语音转成面部 blendshape 数据,适合已有 3D 数字人管线、能读英文 API 文档的开发者嵌入使用。

工具要登录网页英文

打开官网替代品 5 个 build.nvidia.com
Audio2Face-3D 首页截图

Audio2Face-3D 是英伟达在 NVIDIA NIM 平台上提供的一个模型,输入是流式音频,输出是面部的 blendshape 数据,下游可以拿去驱动 3D 角色做实时口型同步和表情。它解决的是「让虚拟角色对上嘴」这件事:不用逐帧手动调口型,把语音喂进去,拿到一组可以绑到骨骼或形变目标上的数值。

页面上它被归在 Audio-to-Face、Digital Humans、Speech-to-Animation 几个标签下,走的是 API 调用的路子,需要先拿 API Key,再按 API Reference 里的 RPC 接口对接。也就是说它不是给普通用户点开就能用的软件,而是给做数字人、虚拟主播、游戏角色口型的技术团队嵌进自己管线里的一个环节。

现状与限制

最要紧的一点:这个 NIM Endpoint 已经标记为 Deprecated,页面明确提示要迁移到别的模型,以免服务中断。现在再去申请密钥接入,等于往一条要关的路上走,新项目应当先看官方推荐的替代模型。

另外页面标注了 Downloadable,说明除了托管 API 之外还有可下载的形态;具体怎么部署、要不要付费,材料里没有写清楚,用之前得自己去 Docs 里确认。界面是英文,文档也是英文。

适合谁

适合已经在做 3D 数字人或语音驱动动画、并且能读 API 文档的开发者;如果只是想给视频配个会说话的头像,这个模型偏底层,门槛不低。

常见问题

用 Audio2Face-3D 要登录吗?
需要登录账号。需登录后获取 API Key。
Audio2Face-3D 有哪些平台 / App?
支持 网页。
Audio2Face-3D 的替代品有哪些?
本站整理了 5 个替代品,例如 MuseTalk、EchoMimic、OmniHuman-1、VASA-1。

替代品 全部 5 个 →

MuseTalk免费不用登录 腾讯音乐 Lyra Lab 开源的音频驱动唇形同步模型,输入人脸视频和音频即可改嘴型对齐,支持中英日等多语,在 NVIDIA 显卡上可实时推理,适合有深度学习基础的开发者在本地给虚拟人视频配音。替代音频驱动唇形这一块:开源可本地部署,输出视频而非 blendshape,需自己接管线 E EchoMimic 蚂蚁集团支付宝终端技术部开源的肖像动画生成项目,可用音频、面部关键点或两者结合驱动静态人像生成口型与表情同步的视频,需自行配置环境、下载权重再推理,适合能跑模型的研究者与开发者。替代音频驱动口型这一块:开源肖像动画,产出视频,不能直接给 3D 角色输出 blendshape O OmniHuman-1 字节跳动智能创作团队公布的人体视频生成研究项目,用单张人像配合音频、视频或两者组合驱动,生成说话、唱歌的动态人像,覆盖卡通形象与复杂姿态,适合数字人方向研究者对照方法、评估效果边界。替代音频驱动说话人像这一块:单图加音频生成视频,偏 2D 成片,不是 3D 绑定数据 VASA-1 微软研究院的音频驱动人脸视频生成研究项目,输入单张照片和一段语音,实时生成口型与表情同步的说话视频,页面只提供论文与演示,适合做虚拟人、数字主播的研究者了解技术路线。替代音频驱动面部动画这一块:研究项目只给论文演示,无 API,难嵌入生产管线

收录于 2024 年 4 月 · 更新于 11 月 8 日 · 浏览 468 · 报告问题

替代品 5 个打开官网build.nvidia.com