VideoScience-Bench
VideoScience-Bench(加州大学圣地亚哥分校 Hao AI Lab)问的是视频生成器是否 理解科学。Prompt 描述真实实验与现象。VLM 裁判按 1–4 量表 打五个维度;官方加权总分归一化到单位区间,即 videoscience_average:
- Prompt 一致性
- 现象一致性 — 描绘的结果是否符合真实科学?
- 正确动态
- 不变性 — 不变量是否保持不变?
- 时空连贯
论文:VideoScience-Bench。空间:lmgame/videoscience-bench。代码:hao-ai-lab/VideoScience。目录发布状态:experimental。合同条目不要求 Hugging Face 数据集。
WorldFoundry 归一化官方结果文件,并在配置好提供方 / 模型 / 凭证时可对 experiments CSV 跑裁判。不声称已完成带凭证的完整上游运行。
评测维度
- Prompt 一致性类型轴
1–4 量表。
- 现象一致性类型轴
描绘的结果是否符合真实科学?
- 正确动态类型轴
1–4 量表。
- 不变性类型轴
不变量是否保持不变?
- 时空连贯类型轴
1–4 量表。
数据组成
- 规模
UCSD Hao AI Lab 科学理解 T2V 评测。五维 1–4 量表;官方加权总分归一化为 videoscience_average。目录状态:experimental。
- 来源
github.com
- 模态
text · video
- 说明
WorldFoundry 接好 VLM 裁判并归一化官方文件。不声称已完成带凭证的完整上游运行。
指标
指标
- 方向越高越好
prompt_consistencyprompt 一致性(归一化基准分)。
- 方向越高越好
phenomenon_congruency现象一致性(归一化基准分)。
- 方向越高越好
correct_dynamism动态正确性(归一化基准分)。
- 方向越高越好
immutability不变性(归一化基准分)。
- 方向越高越好
spatio_temporal_coherence时空连贯性(归一化基准分)。
- 方向越高越好
videoscience_average由 1-4 rubric 归一化到单位区间的官方加权总分。
主指标VideoScience Weighted Overall
Leaderboard
官方实时榜,嵌在本页。不是 WorldFoundry 跑分。 Hugging Face Space(lmgame).
如何运行
worldfoundry-eval zoo benchmark-run \
--benchmark-id videoscience-bench \
--mode official-validation \
--official-results-path <official_results.json> \
--generated-artifact-dir <generated_videos> \
--output-dir tmp/videoscience-bench/official-validation \
--json运行时 CLI 接受 --experiments-csv、--evaluation-results-dir、可选 --reference-videos-dir,以及裁判标志(--judge-provider、--judge-model、--judge-max-runs、--max-frames、--judge-fps)。--ready-only 只评产物齐全的实验。默认导入:WORLDFOUNDRY_VIDEOSCIENCE_BENCH_RESULTS_PATH。
仓内指针:worldfoundry/data/benchmarks/tasks/external/videoscience-bench.yaml,worldfoundry/evaluation/tasks/execution/runners/videoscience_bench/runtime/videoscience_bench。
产物包括 scorecard.json(主键 videoscience_average)。