LikePhys

本页内容

LikePhys(牛津大学,ICLR 2026)是免训练似然探针,不是生成评测。它不给你们生成的视频打分。对 12 个仿真场景(刚体、流体、可形变体、光学)中的每一个,它把物理合法片段与配对的不合理变体放在一起,问扩散模型是否给合法片段更高似然(更低去噪 ELBO)。主指标是误排率——模型偏好不合理变体的频率。全部指标越低越好。

这和 Physics-IQ(续写实拍场景)、PhyGenBench(评审一段生成的 T2V)不是同一件事。

论文:LikePhys。项目:yuanjianhao508.github.io/LikePhys。代码:YuanJianhao508/LikePhys。片段:JianhaoDYDY/LikePhys-Benchmark(920 个片段)。

WorldFoundry 仓内重算官方误排公式(compute_misrank_normalized 与 read_exp_final.py 过滤)。跑上游 ELBO 探针需要调用方提供的 LikePhys checkout(WORLDFOUNDRY_LIKEPHYS_EVALUATOR_ROOT)、CUDA 与被探测权重——WorldFoundry 不内置 fork 的 diffusers pipeline。

论文官方 Teaser:学到物理的模型应对合法视频给出更高似然,而不是违规视频。
论文官方 Teaser:学到物理的模型应对合法视频给出更高似然,而不是违规视频。

评测维度

  • 模型似然探针
    类型任务

    评测扩散模型本身(成对片段上的去噪 ELBO)。没有候选视频输入,也没有生成榜。

  • 刚体
    类型类别

    球下落、球碰撞、单摆、滑块与金字塔。

  • 流体
    类型类别

    液滴、水龙头与河流场景。

  • 可形变体
    类型类别

    布料垂落与旗帜飘动。

  • 光学
    类型类别

    移动光源与移动相机阴影场景。

数据组成

  • 规模

    12 个仿真场景 × 10 个 subgroup;目录记录 920 个片段(物理合法片段 + 配对的不合理变体)。片段来自 JianhaoDYDY/LikePhys-Benchmark。WorldFoundry 重算官方误排;ELBO 探针需要调用方提供的 LikePhys checkout。

  • 来源

    JianhaoDYDY/LikePhys-Benchmark · github.com

  • 模态

    text · video

  • 许可证

    apache-2.0

  • 说明

    误排率是错误率(越低越好)。除非设置 --no-report-filter,否则应用论文 filter_config 排除规则。

指标

指标

  • likephys_misrank_rate
    方向越低越好

    所有已评分场景/变体对上按变体加权的平均误排率(论文排名用)。

    主指标LikePhys Mis-Rank Rate

  • likephys_dataset_weighted_misrank_rate
    方向越低越好

    逐场景误排率的均值(12 个场景等权重)。

  • rigid_body_misrank_rate
    方向越低越好

    球下落、球碰撞、单摆、滑块与金字塔上的误排率。

  • fluid_misrank_rate
    方向越低越好

    液滴、水龙头与河流上的误排率。

  • deformable_misrank_rate
    方向越低越好

    布料垂落与旗帜飘动上的误排率。

  • optics_misrank_rate
    方向越低越好

    移动光源与移动相机阴影上的误排率。

  • temporal_disorder_misrank_rate
    方向越低越好

    限定全部 12 个场景共有的 temporal_disorder 变体的误排率。

Leaderboard

论文报告结果(非实时榜;不是 WorldFoundry 跑分)。 论文总体 PPE。越低表示直觉物理越好。 LikePhys: Evaluating Intuitive Physics Understanding in Video Diffusion Models via Likelihood Preference (2025).

模型PPE 平均(越低越好)
Hunyuan T2V43.6
Wan2.1-T2V-14B43.8
CogVideoX1.5–5B43.8
LTX v0.9.544.7
Wan2.1-T2V-1.3B48.0
CogVideoX-2B48.2
CogVideoX-5B49.8
Mochi51.9

如何运行

导入 results_<model>.json(或含 <scenario>/results_<probe_model>.json 的目录)并重算误排:

worldfoundry-eval zoo benchmark-run \
  --benchmark-id likephys \
  --mode official-validation \
  --official-results-path <likephys_results_root> \
  --output-dir tmp/likephys/official-validation \
  --json

结果根含多个后端时用 --probe-model。--no-report-filter 会保留论文 filter_config 排除的变体。

对单个模型、单个场景跑上游 ELBO 探针(需要 CUDA 与 LikePhys checkout):

hf download JianhaoDYDY/LikePhys-Benchmark --repo-type dataset --local-dir "${WORLDFOUNDRY_LIKEPHYS_DATA_ROOT}"

WORLDFOUNDRY_LIKEPHYS_EVALUATOR_ROOT=/path/to/LikePhys \
${WORLDFOUNDRY_UNIFIED_PYTHON} \
  worldfoundry/evaluation/tasks/execution/runners/likephys/run_likephys_official_runner.py \
  --run-official \
  --probe-model wan2.1-T2V-1.3b \
  --scenario ball_drop \
  --benchmark-data-root "${WORLDFOUNDRY_LIKEPHYS_DATA_ROOT}" \
  --output-dir tmp/likephys/probe \
  --json

--dry-run 只准备工作区并打印命令。产物包括 scorecard.json(主键 likephys_misrank_rate)与 misrank_breakdown.json。

← 返回 Benchmark Hub