[控场AI]
基准Omni-Video Caption Benchmark

OmniCapBench

一个音频-视觉字幕生成评估基准,将字幕评估结构化为实体引用、视觉镜头和音频事件三类原子化评估单元,结合确定性约束检查与局部LLM语义比较,实现覆盖度与定位能力兼顾的细粒度诊断。

时间轴 (近 90 天)

10月12日

OmniCapBench(Omni-Video Caption Benchmark)是一个面向音频-视觉字幕评估的深度结构化诊断框架,其预测目标为三组原子化、可验证的评估单元:实体引用、视觉镜头和音频事件。

待验证50%
10月12日

OmniCapBench 包含786个密集标注的视频。

待验证50%
10月12日

OmniCapBench 采用确定性约束检查与局部化 LLM 语义比较相结合的混合评分策略,以兼顾覆盖度与精确定位。

待验证50%
10月12日

OmniCapBench 能够诊断四类典型失败模式:时序定位失败、身份漂移、跨模态错位和幻觉描述。

待验证50%
10月12日

对当前前沿 MLLM 的评估结果显示,模型在局部感知任务上表现较强,但在长时程音频-视觉推理方面明显薄弱。

待验证50%
10月12日

将评估目标拆解为原子化单元,并用确定性检查加局部 LLM 语义比较的混合策略进行评分,这一思路可以推广到更广泛的多模态评估场景中。

待验证50%

全部知识事实 (6)

来源文章