VideoCrafter1 I2V

VideoCrafter1 I2V

VideoCrafter1 I2V(Tencent AI Lab):图生视频、视频生成;Runner 一致性待确认。

VideoCrafter1 I2V 是腾讯 AI Lab VideoCrafter1 发布中的图生视频成员:在保持内容、风格与结构的前提下让静态图动起来。树内仅推理运行时封装官方路径,提供本地 checkpoint、fps、帧数与 seed 控制。

本 docs 树没有入库的官方 teaser 或方法图。

记录论文为arXiv 2401.09047。

项目页:ailab-cvc.github.io/videocrafter2。代码:VideoCrafter/VideoCrafter。

构建运行命令

推理 Pipeline
VideoCrafter1I2VPipelineworldfoundry.pipelines.videocrafter.pipeline_videocrafter1_i2v
任务Interactive Video interactive-video
环境worldfoundry-unified-cu128
设备CUDA 12.8
Runnerworldfoundry.pipeline
加载方式from_pretrained
调用方式native_or_standard_invocation
worldfoundry-eval run \
  videocrafter1-i2v \
  --pipeline.task-profile interactive-video \
  --json

用来做什么

videocrafter1-i2v 是记录的文本/图像到视频线。需要同一张卡片上同时有 prompt 与静帧条件时用它。

以输入图像嵌入为条件的 U-Net 潜空间视频扩散模型(见上游发布)。checkpoint 溯源记录在系列级 videocrafter 条目上;训练与下载脚本有意未打包。

catalog 记录的任务包括 图生视频、视频生成。别名包括 videocrafter1_i2v。模态上,它接受图像,输出视频。

记录的评测入口包括EvalCrafter(VideoCrafter 项目的配套评测)。

不是 VideoCrafter、VideoCrafter1 T2V。 评测看 EvalCrafter。

运行时契约

可选 prompt、input_path、frames、fps、height;产物 generated_video、videocrafter1-i2v.mp4。

CLI task profile:interactive-video。绑定的 pipeline 类是 VideoCrafter1I2VPipeline。

系列状态:Runner 一致性待确认。

预期是 2023 年代的质量:短片、运动幅度有限。 若要更高保真的图像动画,请用 DynamiCrafter 或 DiT 系图生视频条目。

Checkpoint 属于外部资产——权重缺失时会在运行时报告,而不会自动下载。

在 WorldFoundry 中运行

catalog 启动命令是 worldfoundry-eval run videocrafter1-i2v --pipeline.task-profile interactive-video。上方命令构建器按已记录任务切换 --pipeline.task-profile,发出的仍是 worldfoundry-eval run。

运行环境是统一 profile worldfoundry-unified-cu128(Python 3.11,CUDA 12.8)。

记录的权重仓库包括 VideoCrafter/Image2Video-512、laion/CLIP-ViT-H-14-laion2B-s32B-b79K。准备环境并检查本地资产:bash scripts/inference/prepare_model_infer.sh videocrafter1-i2v;下载缺失的公开权重时加 --download。

状态:Runner 一致性待确认。