Hallo

github.com又名 Hallo

复旦大学等机构联合开源的音频驱动人像动画工具,输入一张人像照片和一段音频即可生成嘴形、表情与头部动作同步的说话视频,代码与模型权重以 MIT 协议开放,适合有 Ubuntu + CUDA 环境的研究生和算法工程师在本地配环境跑推理。

工具免费Linux英文开源

Hallo 是一个研究性质的开源项目,由复旦大学、百度、ETH Zurich、南京大学的研究者共同完成。它解决的问题很具体:给定一张人像照片和一段音频,合成出人物跟着音频说话的视频,嘴形、表情和头部动作都由音频驱动。项目在 GitHub 上以 MIT 协议开放,代码、模型权重和推理脚本都能拿到。

主要功能

核心是「分层音频驱动的视觉合成」:先把音频特征和图像特征对齐,再逐层生成面部动作。仓库里提供了推理入口脚本,准备好预训练模型和「图片 + 音频」素材对之后就能跑。官方还放出了经典电影片段的演示,用剧照配台词生成说话片段。社区在此基础上做了 Gradio 演示、WebUI、ComfyUI 插件、Windows 版和 Docker 镜像,也有扩展版本支持普通话。

适合谁

适合想研究音频驱动人像动画的研究生、算法工程师,以及愿意折腾本地环境的开发者。它不是点开网页就能用的消费级产品,需要自己配环境、下模型、跑命令。如果你只是想快速做一个数字人视频,社区打包的 WebUI 或 ComfyUI 插件会更省事。

费用与限制

代码和模型免费,但硬件门槛不低:官方给出的系统要求是 Ubuntu 20.04/22.04 加 CUDA 12.1,测试用的是 A100 显卡。安装依赖 conda、pip 和 ffmpeg,预训练模型要从 HuggingFace 仓库克隆。项目页面没有提供在线托管服务,想用就得本地部署。

常见问题

Hallo 收费吗?
Hallo 免费使用。
Hallo 有哪些平台 / App?
支持 Linux。
Hallo 的替代品有哪些?
本站整理了 5 个替代品,例如 AniPortrait、MagicAnimate、LivePortrait、SadTalker。

替代品 全部 5 个 →

AniPortrait免费 腾讯游戏智迹团队开源的肖像动画框架,用一张人像照片加一段音频生成口型对齐的说话视频,也能把视频里的表情动作迁移到肖像上做面部重演,适合愿意手动下载权重、配置 CUDA 环境的开发者与研究者本地部署。腾讯开源,照片加音频生成口型同步视频,还能迁移表情动作,功能覆盖更广 MagicAnimate 新加坡国立大学 Show Lab 与字节跳动开源的扩散模型框架,用一张人物图和一段动作视频生成时序一致的人像动画,适合 AI 研究者与开发者配好 CUDA 环境本地跑或调 Replicate API 做动画实验。替代人像动画这一块:靠动作视频驱动而非音频,做不出音频同步口型 L LivePortrait国内可直接访问 快手科技开源的肖像动画框架,用一张静态照片配合驱动视频生成表情与头部动作自然的动态视频,眼睛开合与嘴唇幅度可单独重定向控制,适合研究者和开发者自备 GPU 部署做视频编辑或虚拟形象实验。替代人像动画这一块:用驱动视频而非音频,表情头部动作更自然但需另配音 SadTalker免费不用登录国内不可直接访问 西安交通大学等机构开源的音频驱动视频生成工具,用一张正面人像照片和一段音频合成嘴型同步的说话视频,适合需自行配置 Python 环境与模型权重的开发者本地部署。同样开源、照片加音频生成说话视频,本地部署门槛相近,可直接换用

收录于 2024 年 10 月 · 更新于 11 月 8 日 · 浏览 220 · 报告问题

替代品 5 个打开官网github.com