TwelveLabs Pegasus 1.5登陆Amazon Bedrock:视频理解新利器

TwelveLabs Pegasus 1.5上线Amazon Bedrock,支持两小时视频结构化与多模态搜索。
TwelveLabs的视频语言模型Pegasus 1.5正式登陆Amazon Bedrock,核心能力是将长达两小时的视频转化为带时间戳的JSON元数据,并新增视频分割与多模态提示功能。开发者可通过参考图像在视频中精准定位目标片段,适用于媒体检索、安防监控和电商分析等场景。借助Bedrock的托管基础设施和按需付费模式,视频AI的集成门槛显著降低。不过,模型准确性仍受训练数据覆盖和场景复杂度限制,长视频处理的计算成本与延迟也是实际部署时需要权衡的因素。
TwelveLabs的视频语言模型Pegasus 1.5正式上线Amazon Bedrock,为开发者带来更强大的长视频结构化处理能力。这款模型能够将长达两小时的视频内容转化为带时间戳的JSON元数据,并新增了视频分割、多模态提示等实用功能,标志着视频理解技术向生产级应用又迈进了一步。

从长视频到结构化数据:Pegasus 1.5的核心能力
Pegasus 1.5的核心价值在于将非结构化的视频内容转化为机器可读的结构化数据。开发者只需定义需要关注的关键时刻或事件,模型便能返回所有匹配片段的时间戳和描述信息,并以JSON格式输出。这种能力对于视频内容检索、自动化剪辑、合规审查等场景尤为关键。
据官方介绍,新版本支持对长达两小时的视频进行即时处理,无需预先分割或上传完整文件,显著提升了工作流效率。同时,模型新增了视频分割功能,能够自动识别视频中的场景切换或内容边界,为后续的精细分析提供基础。
视频语言模型(Video-Language Model) 是一类同时理解视频视觉内容与自然语言指令的多模态模型。与传统的视频分类模型不同,它通常采用视觉编码器提取帧级或片段级特征,再通过跨模态注意力与文本编码器对齐,从而支持开放式查询、描述生成和时序定位。Pegasus 1.5 属于这一范式,其输出不是单一标签,而是带时间戳的结构化 JSON,这意味着模型需要具备时序 grounding 能力——即把语言描述映射回视频中的具体时间段。这类模型在训练时往往依赖大规模视频-文本对,推理时则需处理长上下文,因此对帧采样策略和计算效率有较高要求。
多模态提示与参考图像:让搜索更精准
Pegasus 1.5引入了多模态提示能力,允许开发者结合参考图像来指导视频分析。例如,用户可以上传一张产品图片,让模型在视频中定位所有出现该产品的片段。这种基于视觉示例的搜索方式,比纯文本提示更加直观和准确,尤其适合零售、媒体和安防领域的应用。
这一功能背后的技术逻辑是将图像特征与视频帧进行跨模态对齐,从而实现细粒度的内容匹配。虽然官方未披露具体的技术细节,但从实际效果来看,Pegasus 1.5在复杂场景下的召回率和准确率均有提升。
跨模态对齐(Cross-modal Alignment) 是指将不同模态(如图像、文本、视频)的表示映射到同一语义空间,使相似内容在向量空间中彼此接近。在多模态提示场景中,模型首先用视觉编码器提取参考图像的特征向量,再与视频帧特征进行相似度计算或注意力交互,从而定位匹配片段。这种方法的优势在于无需为每个查询重新训练,仅靠推理时的示例即可完成细粒度搜索。其效果高度依赖预训练阶段学到的对齐质量,以及在复杂背景、遮挡和视角变化下的鲁棒性。
Amazon Bedrock集成:降低视频AI的应用门槛
Pegasus 1.5通过Amazon Bedrock提供服务,意味着开发者可以直接调用AWS的托管基础设施,无需自行部署和管理模型。Bedrock的按需付费模式和统一API接口,使得视频理解能力的集成变得更加简单。对于已经使用AWS生态的企业来说,这无疑降低了尝试和采用视频AI技术的门槛。
从行业角度看,视频内容正以惊人的速度增长,但大部分视频数据仍处于“暗数据”状态,难以被有效利用。Pegasus 1.5这类模型的出现,有望改变这一局面,让视频搜索、摘要和监控变得更加自动化和智能化。
Amazon Bedrock 是 AWS 推出的全托管生成式 AI 服务,提供统一 API 访问多家基础模型,并支持按需付费、私有化微调和安全合规控制。开发者无需管理底层 GPU 集群,即可通过 Bedrock 调用模型推理。对于视频理解这类计算密集型任务,Bedrock 的弹性资源调度和托管特性可以显著降低运维复杂度,但长视频处理仍会产生较高的 token 或时长计费,因此成本优化需要结合分段策略和批处理。
应用前景与挑战
Pegasus 1.5的发布为视频AI应用打开了新的想象空间。在媒体行业,编辑可以快速定位素材;在安防领域,系统可以自动标记异常事件;在电商平台,商家能够高效生成商品视频的章节信息。然而,视频理解模型的准确性仍受限于训练数据的覆盖范围和场景复杂度,实际部署时可能需要针对特定领域进行微调。
此外,处理长视频带来的计算成本和延迟也是需要考虑的因素。尽管Bedrock提供了弹性资源,但大规模视频处理的经济性仍需评估。TwelveLabs和AWS的合作能否在性能与成本之间找到平衡点,将决定这项技术的普及速度。
相关推荐

LLaMA-Factory实战:零代码微调大模型全流程
本文介绍LLaMA-Factory开源微调工具,涵盖其60.1K Star项目背景、支持的模型与算法、本地与云服务器部署选择,以及CUDA环境安装步骤,帮助零基础开发者快速上手大模型微调。

曾鸣深度复盘:OpenAI为何难成终局赢家?公司制度将消亡
曾鸣在张晓骏商业访谈录中深度复盘AI终局:模型公司只是基础设施,OpenAI、Anthropic难成最终赢家;下一战役是Agent入口标准之争;公司制度将因AI重构而消亡,只有使命驱动的企业能穿越周期。

OpenHands v1.28.0:OpenCode与PI成内置Agent,密钥可对话申请
OpenHands 21天连推5个版本,v1.27.0将OpenCode与PI写入内置Agent列表,v1.28.0支持对话内申请密钥。本文梳理ACP协议接入方式、凭证复用规则、模型列表变更及升级建议。