5月9日,记者从腾讯获悉,旗下混元团队发布并开源全新的多模态定制化视频生成工具HunyuanCustom。据了解,该模型基于混元视频生成大模型(HunyuanVideo)打造,在主体一致性效果超过现有的开源方案,并可媲美闭源模型。HunyuanCustom融合了文本、图像、音频、视频等多模态输入生成视频的能力,是一款具备高度控制力和生成质量的智能视频创作工具。

生成视频与用户输入的参考主体能保持高度一致
HunyuanCustom模型能实现单主体视频生成、多主体视频生成、单主体视频配音、视频局部编辑等能力,其生成的视频与用户输入的参考主体能保持高度一致。其中,单主体生成能力已经开源并在混元官网上线,用户可以在“模型广场-图生视频-参考生视频”中体验,其他能力将于5月内陆续对外开源。
用户只需上传一张包含目标人物或物体的图片,并提供一句文本描述(例如“他正在遛狗”),HunyuanCustom就能识别出图片中的身份信息,并在完全不同的动作、服饰与场景中生成连贯自然的视频内容。
除了单主体以外,这个能力同样能实现多主体视频的生成,用户提供一张人物和一张物体的照片(比如“一包薯片和一名男子”的照片),并输入文字描述(比如“一名男子正在游泳池旁边,手里拿着薯片进行展示。”),即可能让这两个主体按要求出现在视频里。
此外,HunyuanCustom不止于图像和文本的配合,还具备强大的扩展能力。在音频驱动(单主体)模式下,用户可以上传人物图像并配上音频语音,模型便可生成人物在任意场景中说话、唱歌或进行其他音视频同步表演的效果,广泛适用于数字人直播、虚拟客服、教育演示等场景。
在视频驱动模式中,HunyuanCustom支持将图片中的人物或物体自然地替换或插入到任意视频片段中,进行创意植入或场景扩展,轻松实现视频重构与内容增强。
满足视频创作者、短视频博主、电商从业者等不同用户和场景的需求
据了解,此前大部分的视频生成模型主要能实现文生视频和图生视频。文生视频每次均根据本文提示词重新生成,很难持续保持人物和场景的一致性。图像生成视频模型主要实现的是“让图片动起来”。例如,上传一张人物照片,最终生成的视频通常只能在照片的原始服饰、姿态和场景下做出一些固定表情或动作,服装、背景和姿态几乎无法修改。
但在部分场景下,创作者希望保持人物一致的情况下,改变人物所在的环境和动作。此前的视频生成模型无法实现,多模态视频生成模型HunyuanCustom则可以很好地满足创作者的需求,通过引入身份增强机制和多模态融合模块,真正实现了“图像提供身份,文本定义一切”。
具体来看,HunyuanCustom可以满足视频创作者、短视频博主、电商从业者、广告创意人等不同用户和场景的需求。比如,在广告场景中,可以快捷变换商品背景、模特快速换衣服;在电商和客服场景中,可以快速低成本制作出生动的数字人商品介绍视频,或者制作特定穿着的数字人客服视频;在影视场景中,快速制作短剧和小故事短视频。
HunyuanCustom在“可控性”和“一致性”上表现出色。“可控性”指 HunyuanCustom 具有较强的控制信号跟随能力,包括遵循来自文本、参考主体图像和语音等多种模态信号的控制,可较好地生成用户需要对象、场景和动作。这主要得益于混元强大的多模态理解与文本驱动机制。通过业内领先的主体一致性建模能力,HunyuanCustom 在单人、非人物体、多主体交互等多种场景,都能保持身份特征在视频全程的一致性与连贯性。人物不会“变脸”,物体不会“漂移”。
同时,HunyuanCustom 具备极高的视频生成质量。