AniPortrait

github.com又名 AniPortrait

腾讯游戏智迹团队开源的肖像动画框架,用一张人像照片加一段音频生成口型对齐的说话视频,也能把视频里的表情动作迁移到肖像上做面部重演,适合愿意手动下载权重、配置 CUDA 环境的开发者与研究者本地部署。

工具免费网页 · Linux · Windows英文开源

AniPortrait 首页截图

AniPortrait 是一个开源项目,解决的是「让静态人像开口说话」这件事。给它一张参考肖像图和一段音频,它生成一段口型与音频对齐、头部姿态自然的动态视频;也可以再给一段视频,把视频里的表情和动作迁移到那张肖像上,做面部重演。项目由腾讯游戏智迹团队(Tencent Games Zhiji)的 Huawei Wei、Zejun Yang、Zhisheng Wang 完成,代码以 Apache-2.0 协议放在 GitHub 上。

主要功能

核心是音频驱动:音频先转成表情和头部姿态,再驱动肖像逐帧生成。2024 年 4 月的更新里加入了帧插值模块,推理时加 -acc 参数可以加快视频生成;vid2vid 的姿态重定向策略也做了调整,参考图和源视频之间姿态差异较大时也能处理。仓库里带了一个 Gradio 网页界面,运行 python -m scripts.app 就能在本地打开操作页。

怎么用起来

它不是装好就能点的软件。需要 Python 3.10 以上、CUDA 11.7 的环境,先装依赖,再手动下载一批权重:项目自己训练的 denoising_unet、reference_unet、pose_guider、motion_module、audio2mesh、audio2pose、film_net_fp16,以及 Stable Diffusion V1.5、sd-vae-ft-mse、image_encoder、wav2vec2-base-960h 这些基础模型,按指定目录结构放好才能跑。官方也在 HuggingFace Spaces 上放了在线演示,不想配环境可以先试那个。

适合谁

适合愿意折腾环境的开发者、研究者,以及想在自己机器上跑肖像动画、不希望把素材传到别人服务器的人。只想快速做一条数字人视频的普通用户,用现成的在线工具会更省事。

常见问题

AniPortrait 收费吗?
AniPortrait 免费使用。
AniPortrait 有哪些平台 / App?
支持 网页、Linux、Windows。
AniPortrait 的替代品有哪些?
本站整理了 6 个替代品,例如 Hallo、MagicAnimate、可灵AI、LivePortrait。

替代品 全部 6 个 →

Hallo免费 复旦大学等机构联合开源的音频驱动人像动画工具,输入一张人像照片和一段音频即可生成嘴形、表情与头部动作同步的说话视频,代码与模型权重以 MIT 协议开放,适合有 Ubuntu + CUDA 环境的研究生和算法工程师在本地配环境跑推理。开源照片加音频生成说话视频,口型表情头部动作同步,同样本地部署 MagicAnimate 新加坡国立大学 Show Lab 与字节跳动开源的扩散模型框架,用一张人物图和一段动作视频生成时序一致的人像动画,适合 AI 研究者与开发者配好 CUDA 环境本地跑或调 Replicate API 做动画实验。替代视频驱动的动作迁移这一块:人物图加动作视频生成动画,无音频口型 可灵AI有免费版 快手推出的 AI 内容生成平台,支持文生视频、图片生成和数字人制作,提供 Kling 4.0 与 Flash 两档模型并可按分辨率、时长、画幅调节,适合营销运营人员快速产出短视频素材。替代数字人说话视频这一块:在线出片免配环境,但闭源、不能本地改模型 L LivePortrait国内可直接访问 快手科技开源的肖像动画框架,用一张静态照片配合驱动视频生成表情与头部动作自然的动态视频,眼睛开合与嘴唇幅度可单独重定向控制,适合研究者和开发者自备 GPU 部署做视频编辑或虚拟形象实验。替代面部重演这一块:照片配驱动视频做表情迁移,但不做音频驱动口型

收录于 2024 年 8 月 · 更新于 11 月 8 日 · 浏览 255 · 报告问题

替代品 6 个打开官网github.com