OmniCapBench
一个音频-视觉字幕生成评估基准,将字幕评估结构化为实体引用、视觉镜头和音频事件三类原子化评估单元,结合确定性约束检查与局部LLM语义比较,实现覆盖度与定位能力兼顾的细粒度诊断。
时间轴 (近 90 天)
OmniCapBench(Omni-Video Caption Benchmark)是一个面向音频-视觉字幕评估的深度结构化诊断框架,其预测目标为三组原子化、可验证的评估单元:实体引用、视觉镜头和音频事件。
OmniCapBench 包含786个密集标注的视频。
OmniCapBench 采用确定性约束检查与局部化 LLM 语义比较相结合的混合评分策略,以兼顾覆盖度与精确定位。
OmniCapBench 能够诊断四类典型失败模式:时序定位失败、身份漂移、跨模态错位和幻觉描述。
对当前前沿 MLLM 的评估结果显示,模型在局部感知任务上表现较强,但在长时程音频-视觉推理方面明显薄弱。
将评估目标拆解为原子化单元,并用确定性检查加局部 LLM 语义比较的混合策略进行评分,这一思路可以推广到更广泛的多模态评估场景中。
全部知识事实 (6)
OmniCapBench(Omni-Video Caption Benchmark)是一个面向音频-视觉字幕评估的深度结构化诊断框架,其预测目标为三组原子化、可验证的评估单元:实体引用、视觉镜头和音频事件。
50%待验证OmniCapBench 包含786个密集标注的视频。
50%待验证OmniCapBench 采用确定性约束检查与局部化 LLM 语义比较相结合的混合评分策略,以兼顾覆盖度与精确定位。
50%待验证OmniCapBench 能够诊断四类典型失败模式:时序定位失败、身份漂移、跨模态错位和幻觉描述。
50%待验证对当前前沿 MLLM 的评估结果显示,模型在局部感知任务上表现较强,但在长时程音频-视觉推理方面明显薄弱。
50%待验证将评估目标拆解为原子化单元,并用确定性检查加局部 LLM 语义比较的混合策略进行评分,这一思路可以推广到更广泛的多模态评估场景中。
50%