一位电商卖家要在早高峰前产出三十条产品视频。没有棚、没有出镜者,也没有这笔预算。她手里只有一张照片和一段音频——而自从字节跳动开放了数字人研究,这已经足够让照片开口说话。
OmniHuman 到底做什么
OmniHuman 是字节跳动的音频驱动人物视频模型:输入一张人物照片——半身、全身或特写均可——再加一条音轨,它就能生成一段唇形、表情、头部动作与肢体手势全部对得上的说话或唱歌视频。
2025 年 2 月发布的首版 OmniHuman-1,有两点明显区别于此前的对口型工具:
- 它能驱动任意景别,不局限于裁得很紧的脸部——包括手势、持物等全身动作。
- 它对风格化角色同样有效,动漫形象与 3D 卡通人物动起来与真人一样自然。
1.5 版本:从动嘴到「会表演」
2025 年 8 月底,字节跳动数字人团队推出 OmniHuman-1.5。研究框架借用了认知科学的「双系统」思想:慢系统读懂音频在说什么并规划反应,快系统负责渲染动作。
落到体验上,变化有四点:
- 情绪感知——表情与手势匹配的是语音的内容与情绪,而不只是节奏。
- 双人场景——一次生成可以驱动两个角色互动,且两人唇形都准确。
- 更长的镜头——单段视频可超过一分钟,角色保持一致。
- 文本指令控制——提示词可以规定镜头风格、场景氛围与具体动作。
团队以 arXiv 2508.19209 发布了技术报告,第三方对这次发布的评价高度一致:从「说得对」进化到「演得像」。
普通人在哪里用得上
消费端入口是字节的创作平台即梦(即梦)。2025 年 3 月 7 日,即梦的数字人功能上线由 OmniHuman-1 驱动的「大师模式」(大师模式):上传一张照片和一段音频,即可生成该人物演讲、唱歌、演奏乐器或走动的视频,网页端与移动端同步可用。
字节表示对该功能设置了严格的安全审核机制,并在每条输出视频上加盖标注机器生成内容的水印,以防真人肖像被滥用。
开发者则可以通过 BytePlus 与火山引擎(火山引擎)调用同一套技术,字节将其定位为教育、营销、虚拟主播类产品的积木,而不是一个独立玩具。
围绕模型的工作流
实际生产中,它嵌入的是一条普通人可以跑通的流水线:写脚本、录制或合成配音、用照片生成口播视频,再在剪映(剪映)等剪辑工具里与空镜、字幕合成为片。因为出镜者不存在,返工几乎免费:改稿、重配语音,出镜者立刻「重录」一遍。
这也解释了它为何先在小商家中铺开:单人卖家经不起重拍,生成的出镜者不会说错词、不用订棚,配音支持多少种语言就能出多少个版本。代价是质感——观众越来越能察觉出镜者在该眨眼时不眨眼、手势慢半拍,所以老手会把片段剪短、勤切镜头。
典型使用场景
- 电商:多方言、多语言的产品讲解与店铺主播。
- 教育:由生成的出镜者朗读既定脚本的知识类视频。
- 营销:只换音轨就能本地化的广告变体。
- 角色内容:从不露真人的动漫、卡通主持人账号。
关键要点
- OmniHuman 用一张照片加一段音频生成说话或唱歌视频,卡通角色同样适用。
- 1.5 版本新增情绪化表演、双人场景、分钟级长镜头与提示词控制。
- 消费入口是即梦「大师模式」,开发者走 BytePlus 与火山引擎。
- 所有输出均带机器生成标注,平台并设审核。
诚实的局限
长而专业的脚本上唇形仍会漂移,生成的手势偶尔「用力过猛」,二刷时露出诡异感。模型驱动的是静态照片,无法给已有视频重新配音,修复类工作流受限。更难的是肖像同意问题:给真人的照片「开口」只差一次点击,平台审核与水印能减少但不能杜绝滥用。此外,功能与可用性因地区与平台而异,演示视频里的能力不等于你账号今天能用的能力。
普通人现在能做什么
- 先用自己的照片和一段短脚本试「大师模式」,单条控制在一分钟内,发布前重点检查辅音处的口型。
- 要让别人的形象开口,先取得书面同意,并保留机器生成标注——抹水印可能同时触发平台封禁与法律风险。
- 商用前,用真实受众检验方言与多语言支持,再决定是否把整场投放押在合成主播上。