博客 / 对比

一个提示词,六个视频模型,九项实测检查

四个模型通过了全部十八项检查。下方展示了每个片段,以及评分标准、工具和原始数据。

  • 12 分钟阅读
  • 更新于

本文由英文自动翻译。阅读原文

任务简介检查项评分全部 12 个片段未通过项检查项之外

按顺序列出你制作的内容。点按任一项即可跳到对应步骤。

大多数模型对比通常只展示每个模型的一个片段并给出结论。我们想要一个你可以亲自验证的测试:一个提示词包含九个工具可以确认的细节,每个模型运行两次,展示所有片段,并列出每个评分背后的数据。

我们发送的内容

一个提示词,在同一个早晨,从同一个账户,原封不动地发送给六个文本生成视频模型。每个片段均为 16:9 比例,时长 6 秒,使用每个模型的 720p 档位(Hailuo 3 使用其最小的 768p 档位)。声音保持每个模型的默认设置。每个模型运行两次。

提示词,完全按发送时的样子
A quiet bakery storefront on a cobblestone street in the early morning. Above the door, a dark green wooden sign reads BAKERY in large white capital letters. A red bicycle leans against the wall to the left of the door. Exactly three terracotta potted plants stand in a row to the right of the door. A small round cafe table with an open yellow umbrella stands on the pavement at the right of the frame. A ginger cat walks steadily along the pavement in front of the shop, from the left edge of the frame to the right edge. The camera slowly pushes in toward the door for the whole shot. Soft low sunlight from the left. No people anywhere in the shot. Photorealistic.

模型包括:Seedance 2.5、Kling v3、Veo 3.1、Wan 3.0、Grok Imagine Video 1.5 和 Hailuo 3。场景中故意没有人物,以便每项检查都能通过工具测量,而不是依靠主观判断。

我们如何评分

九项检查,通过或未通过,因此单次运行得分为 9 分满分,模型总分为 18 分满分。其中八项由工具测量。一项是花盆的数量,由人工计数,因为检测器有时会将一个花盆拆分为两个,或将桌上的植物计入。

检查项提示词要求测量工具通过条件
猫一只姜黄色的猫沿着人行道行走物体检测器在 24 帧中至少有 6 帧检测到猫
猫的移动方向从画面左边缘到右边缘逐帧追踪猫的中心位置向右移动至少画面宽度的四分之一
红色自行车一辆红色自行车靠在墙上物体检测器和颜色在片段开头检测到自行车,且其饱和度最高的像素为红色
黄色雨伞一把撑开的黄色雨伞物体检测器和颜色在片段开头检测到雨伞,且伞面为黄色
招牌招牌上写着 BAKERY文字识别在前 4 帧读取的文本中,有 3 帧准确拼写出 BAKERY
三个花盆一排恰好三个陶土盆栽目视计数,第一帧门旁的一排恰好有三个
布局自行车在门左侧,花盆在门右侧检测器以及招牌的位置自行车位于招牌中心的左侧,花盆位于右侧
镜头镜头缓慢向门推进特征跟踪在片段的 10% 到 90% 之间,画面至少放大 5%
无人物画面中任何地方都没有人物物体检测器在 24 帧中最多只有 1 帧检测到人物

自行车、雨伞、招牌和布局在片段的前三分之一处进行检查。提示词要求镜头推进,这会在后期裁剪场景边缘,因此如果雨伞在第 4 秒离开画面,并不算失败。

提示:每个探针都设计为至少失败一次. 如果反向播放,所有十二个片段都无法通过方向检查和镜头检查。文本识别器对于显示 BAKFRY 的招牌返回了 BAKFRY。我们查看了检测器找到的每个人物:在两次 Kling v3 运行中,门玻璃后面确实有一个真实的人影;而在两次 Wan 3.0 运行中,单次命中的分别是猫的背部和桌子的铁脚,这就是为什么允许存在一个杂散帧。

评分

模型第 1 次运行第 2 次运行满分 18遗漏项
Veo 3.19918无
Hailuo 39918无
Wan 3.09918无
Seedance 2.59918无
Grok Imagine Video 1.58917第 1 次运行:镜头横向平移,而非向前推进
Kling v38715两次运行:店内出现人物。第 2 次运行:自行车和花盆位于门的错误一侧

简单的部分对所有人来说都很简单。所有 12 个片段在招牌入画时都正确拼写了 BAKERY,绘制了一辆红色自行车和一把黄色雨伞,在地上摆放了一排三个花盆,并让一只姜黄色猫从左向右走过。失误包括出现了一个没人要求的人物,场景布局方向错误,以及镜头移动方向错误。

每个片段

点击任意片段播放。在你点击之前,内容不会加载。首次运行:

Veo 3.1 第 1 次运行生成的画面:鹅卵石街道上的面包店店面,带有绿色 BAKERY 招牌、一辆红色自行车、三盆植物、一把黄色雨伞,以及一只路过的姜黄色猫。
Veo 3.1,第 1 次运行:9/9。 镜头移动幅度远大于缓慢推进。
Hailuo 3 第 1 次运行生成的画面:鹅卵石街道上的面包店店面,带有绿色 BAKERY 招牌、一辆红色自行车、三盆植物、一把黄色雨伞,以及一只路过的姜黄色猫。
Hailuo 3,第 1 次运行:9/9。 猫在大约第 3 秒时进入画面。
由 Wan 3.0 生成的第 1 次运行结果:鹅卵石街道上的面包店店面,带有绿色的 BAKERY 招牌、一辆红色自行车、三盆盆栽、一把黄色雨伞和一只路过的姜黄色猫。
Wan 3.0,第 1 次运行:9/9 项通过。 以每秒 30 帧渲染,是唯一一个未采用 24 帧的模型。
由 Seedance 2.5 生成的第 1 次运行结果:鹅卵石街道上的面包店店面,带有绿色的 BAKERY 招牌、一辆红色自行车、三盆盆栽、一把黄色雨伞和一只路过的姜黄色猫。
Seedance 2.5,第 1 次运行:9/9 项通过。 其窗户上的文字是虚构的,且逐帧变化。
由 Grok Imagine Video 1.5 生成的第 1 次运行结果:鹅卵石街道上的面包店店面,带有绿色的 BAKERY 招牌、一辆红色自行车、三盆盆栽、一把黄色雨伞和一只路过的姜黄色猫。
Grok Imagine Video 1.5,第 1 次运行:8/9 项通过。 镜头横向平移而非推进,且雨伞保持闭合状态。
由 Kling v3 生成的第 1 次运行结果:鹅卵石街道上的面包店店面,带有绿色的 BAKERY 招牌、一辆红色自行车、三盆盆栽、一把黄色雨伞和一只路过的姜黄色猫。
Kling v3,第 1 次运行:8/9 项通过。 店内门玻璃后站着一个人。

第二次运行,使用相同的提示词和设置:

由 Veo 3.1 生成的第 2 次运行结果:鹅卵石街道上的面包店店面,带有绿色的 BAKERY 招牌、一辆红色自行车、三盆植物、一把黄色雨伞,以及一只路过的姜黄色猫。
Veo 3.1,第 2 次运行:9/9。 这是十二次运行中最大的镜头移动:招牌移出画面顶部,猫向镜头走来。
由 Hailuo 3 生成的第 2 次运行结果:鹅卵石街道上的面包店店面,带有绿色的 BAKERY 招牌、一辆红色自行车、三盆植物、一把黄色雨伞,以及一只路过的姜黄色猫。
Hailuo 3,第 2 次运行:9/9。
由 Wan 3.0 生成的第 2 次运行结果:鹅卵石街道上的面包店店面,带有绿色的 BAKERY 招牌、一辆红色自行车、三盆植物、一把黄色雨伞,以及一只路过的姜黄色猫。
Wan 3.0,第 2 次运行:9/9。 它添加了一个菜单板,上面的文字并非真实单词。
由 Seedance 2.5 生成的第 2 次运行结果:鹅卵石街道上的面包店店面,带有绿色的 BAKERY 招牌、一辆红色自行车、三盆植物、一把黄色雨伞,以及一只路过的姜黄色猫。
Seedance 2.5,第 2 次运行:9/9。
鹅卵石街道上的面包店店面,绿色 BAKERY 招牌、红色自行车、三盆植物、一把黄色雨伞和一只路过的姜黄色猫,由 Grok Imagine Video 1.5 渲染,第 2 次运行。
Grok Imagine Video 1.5,第 2 次运行:9/9 通过。
鹅卵石街道上的面包店店面,绿色 BAKERY 招牌、红色自行车、三盆植物、一把黄色雨伞和一只路过的姜黄色猫,由 Kling v3 渲染,第 2 次运行。
Kling v3,第 2 次运行:7/9 通过。 店内再次出现一个人,自行车和盆栽在门的两侧互换位置。

未通过项的表现

Kling v3 第 1 次运行的局部裁剪放大图:透过绿色门的玻璃,可以看到店内站着一个深色人影。
Kling v3,第 1 次运行。 在检查的 24 帧中,每一帧门玻璃后都有一个人影。第 2 次运行也有一个。
Kling v3 第 2 次运行:盆栽位于面包店门的左侧,红色自行车位于右侧。
Kling v3,第 2 次运行。 盆栽在门的左侧,自行车在右侧,与提示词描述相反。
Grok Imagine Video 1.5 第 1 次运行的两帧画面,分别来自开头和结尾:取景向右滑动,合拢的黄色雨伞保持合拢状态。
Grok Imagine Video 1.5,第 1 次运行。 起始和结束帧:视角向右滑动并放大 2%。雨伞始终未打开。

检查项未能发现的问题

评分标准只能看到它测量的内容。这些问题是在我们检查未通过项时发现的,对于某些任务来说,它们比通过或失败更重要。

  • 慢有多慢。 提示词要求缓慢推进。从片段的 10% 到 90% 测量,Veo 3.1 的画面分别放大了 1.8 倍和 2.6 倍;其他模型放大了 1.10 到 1.45 倍,除了 Grok 第一次运行的横向移动。根据我们的判断,Veo 的移动并不慢,而且在第二次运行中,招牌离开了画面顶部。
  • 无人要求的文字。 12 个片段中有 3 个添加了并非真实单词的文字:Seedance 2.5 第一次运行中的窗户文字,文本识别器在每一帧读出的结果都不同;以及 Veo 3.1 和 Wan 3.0 第二次运行中的菜单板。如果你的画面必须没有文字,请在提示词中说明并检查。
  • 打开就是打开。 Grok 的第一次运行显示一把黄色雨伞,在整个片段中保持关闭。我们的检测器能识别雨伞是打开还是关闭,因此这通过了颜色检查。我们只是通过肉眼才发现这个问题。
  • 猫的去向。 在 Veo 3.1 的第二次运行中,猫转向镜头并充满画面。它最终仍然位于右侧,因此通过了测试。
Seedance 2.5 第一次运行的裁剪图:烘焙店橱窗上绘制的金色文字,拼写并非真实单词。
Seedance 2.5,第 1 次运行。 橱窗上的文字逐帧变化。提示词中并未要求这样做。

你获得的结果

使用 ffprobe 和 ffmpeg 对交付的文件进行测量。每个模型的两次运行在尺寸、帧率和时长上均一致。

模型画面时长视频比特率声音,平均响度
Veo 3.11280 x 720,24 fps6.0 s9.0 和 12.4 Mb/s约负 36 dB
Hailuo 31344 x 768,24 fps6.6 s2.5 和 2.6 Mb/s负 18 和负 30 dB
Wan 3.01280 x 720,30 fps6.0 s16.6 和 15.7 Mb/s负 21 和负 17 dB
Seedance 2.51280 x 720,24 fps6.1 秒10.4 和 8.3 Mb/s约负 36 dB
Grok Imagine Video 1.51280 x 720,24 fps6.0 s8.1 和 11.4 Mb/s约负 61 dB,接近静音
Kling v31280 x 720,24 fps6.0 s8.5 和 8.4 Mb/s约负 55 dB,接近静音

有两点值得注意。Hailuo 3 在其 768p 档位返回的视频片段比要求的更长,且码率大约只有其他大多数模型的四分之一。Grok 和 Kling 返回的音轨非常安静,几乎无声;由于提示词并未要求任何声音,因此这是一个需要知晓的事实,而非缺陷。

各模型耗时对比

模型第 1 次运行第 2 次运行
Grok Imagine Video 1.559 秒49 秒
Veo 3.184 秒113 秒
Hailuo 3122 秒125 秒
Wan 3.0164 秒202 秒
Seedance 2.5179 秒313 秒
Kling v3188 秒183 秒
从提交请求到生成最终文件,每个模型各取一个样本,所有任务均在 9 月 23 日的五分钟内启动。由于服务商的队列状况会随时间变化,请将此视为单次测量结果,而非固定承诺。

成本分析

  • Veo 3.1Pro and up

    Per 5s clip

    720p 112 积分 · 1080p 112 积分

  • Hailuo 3Pro and up

    Per 5s clip

    768p 37 积分 · 2K 65 积分

  • Wan 3.0Pro and up

    Per 5s clip

    480p 14 积分 · 720p 28 积分 · 1080p 56 积分

  • Seedance 2.5Pro and up

    Per 5s clip

    480p 26 积分 · 720p 56 积分 · 1080p 137 积分

    1080p renders at 16:9 and 9:16

  • Grok Imagine Video 1.5Pro and up

    Per 5s clip

    480p 23 积分 · 720p 41 积分 · 1080p 71 积分

  • Kling v3Pro and up

    Per 5s clip (audio on by default)

    720p 35 积分 · 1080p 47 积分 · 4K 117 积分

页面加载时从目录实时读取。 所有价格都会在生成前显示。 查看所有费率.

以上费率是直接从价格表中按层级读取的,针对 5 秒片段。我们的片段在 720p 层级运行了 6 秒(Hailuo 3 为 768p),因此每个片段的成本比此处列出的价格高五分之一。在确认渲染之前,价格始终会显示给你。

本测试未涵盖的内容

  • 它仅使用一个提示词和一种场景类型:静止的街道、一只动物、缓慢的镜头移动。手部动作、快速动作、对话、多人场景或长片段可能会使模型排名有所不同。
  • 其中没有人物,因此无法说明任何模型如何绘制人物。
  • 每个模型仅运行两次,样本量较小。两次都通过的模型可能在第三次运行中失败。
  • 它在每个模型的 720p 层级运行。更高层级可能会改变细节,在某些模型上,甚至改变结果。
  • 检测器、颜色测试和文本读取器可能会出错。我们亲自检查了每一个失误,并在下方发布原始数据。
  • 它不评估审美。光线、纹理、猫走路的自然程度以及声音的契合度,需要你自己用眼睛和耳朵去判断。

关于动作,我们进行了单独的测试:在让 AI 人物动作更真实中,基于同一帧画面,在四个模型上测试了站立后空翻。对于需要保持形状的汽车,驾车经过的测试在AI 汽车广告中。

方法与原始数据

物体和人物:使用在 COCO 数据集上训练的 Mask R-CNN,置信度为 0.6(人物为 0.7),在覆盖整个片段的 24 帧上进行检测。文本:使用 macOS Vision 文本识别器,关闭语言校正,在 12 帧上进行检测。相机:在片段 10% 到 90% 的 9 帧之间匹配 SIFT 特征,使用 RANSAC 相似性拟合,并乘以缩放比例。颜色:对于自行车,取其掩码内饱和度最高的 20% 像素;对于雨伞,取其掩码内顶部 40% 区域的中位色相。

在我们工作期间,两项颜色测试发生了变化,我们如实说明,因为这些变化影响了结果。第一次自行车测试统计了遮罩中每个饱和像素,而车架管之间露出的暖色墙面在计数上超过了油漆本身。第一次雨伞测试中,Seedance 2.5 生成的芥末黄雨伞在伞杆后的砖墙背景下失败了。这两项测试都已修正为仅测量目标物体,随后使用最终代码对所有片段重新评分。目视计数与检测器在 12 个片段中的 10 个上匹配;但在两个 Veo 3.1 片段中,检测器还统计了桌上的植物或合并了两个花盆。

运行猫:帧数,位移镜头放大自行车红色占比,雨伞色相人物帧数
Veo 3.1, 123, 0.381.760.97, 230
Veo 3.1, 216, 0.592.651.00, 200
Hailuo 3, 113, 0.671.161.00, 200
Hailuo 3, 211, 0.361.240.95, 200
Wan 3.0, 120, 0.711.450.99, 171
Wan 3.0, 224, 0.491.441.00, 151
Seedance 2.5, 112, 0.591.220.89, 170
Seedance 2.5, 220, 0.601.101.00, 180
Grok Imagine Video 1.5, 124, 0.371.020.86, 180
Grok Imagine Video 1.5, 224, 0.561.210.87, 180
Kling v3, 113, 0.301.370.67, 2424
Kling v3, 218, 0.511.340.92, 2124
猫的位移是指猫向右移动占画面宽度的比例。镜头放大低于 1.05 视为失败。色相采用 0 到 180 的刻度,其中 15 到 40 显示为黄色。

常见问题

我应该使用哪个模型?
对于这样的场景,任何通过全部十八项检查的四个模型都符合简报要求。在此基础上,你可以根据外观、速度和价格进行选择,这也是为什么本页面上列出了所有片段和实时费率。如果你的简报要求无人物,请仔细检查 Kling v3 的输出。
为什么提示词中没有人物?
这样每一项检查都可以通过工具进行测量。包含人物的提示词是另一种测试,我们宁愿在能够正确测量时再发布那一项。
我可以自己运行这个测试吗?
可以。上面的提示词正是我们发送的内容。打开任意模型页面,粘贴提示词,并选择 16:9、6 秒和 720p 档位。
为什么只在片段早期检查自行车、雨伞和标志?
提示词要求摄像机向门推进,这会在后期裁剪场景边缘。检查开头三分之一可以测试模型绘制的内容,而不是其摄像机最终的位置。

在任意模型上运行相同的提示词

浏览视频模型