懂AI

LongVU：长视频语言理解的时空自适应压缩 Meta AI开源

RayRay
LongVU长视频内容

引言



在人工智能领域，尤其是多模态大型语言模型（MLLMs）的发展，已经显示出在理解和分析视频内容方面的巨大潜力。然而，处理长视频内容仍然是一个重大挑战，这一挑战主要受限于大型语言模型（LLM）的上下文大小。为了克服这一限制，Meta AI团队提出了LongVU，这是一种时空自适应压缩机制，旨在减少视频标记的数量，同时保留长视频的视觉细节。

LongVU的核心理念


LongVU的核心理念是利用跨模态查询和帧间依赖性来自适应地减少视频中的时间和空间冗余。具体来说，LongVU通过以下几个步骤实现：
利用DINOv2特征剔除冗余帧：LongVU使用DINOv2特征来识别并去除那些表现出高度相似性的冗余帧，从而减少视频标记的数量。
文本引导的跨模态查询：通过文本引导的跨模态查询，LongVU能够进行选择性的帧特征缩减，进一步减少视频标记。
基于时间依赖性的空间标记压缩：LongVU还会在基于帧之间的时间依赖性进行空间标记缩减，以进一步优化视频标记。

LongVU的技术优势


LongVU的自适应压缩策略能够在给定的上下文长度内有效地处理大量帧，并且几乎无视觉信息损失。这种策略使得LongVU在各种视频理解基准测试中表现优异，尤其是在长达一小时的视频理解任务（如VideoMME和MLVU）上超越了其他方法。

LongVU的应用场景


LongVU的应用场景非常广泛，包括但不限于：
视频内容分析：LongVU可以用于分析长视频内容，提取关键信息，为视频内容的理解和分析提供支持。
视频摘要生成：通过减少冗余帧和特征，LongVU可以用于生成视频摘要，帮助用户快速了解视频内容。
视频搜索和推荐：LongVU可以提高视频搜索的准确性和效率，为用户提供更个性化的视频推荐。

LongVU的性能表现


LongVU在多个视频理解基准测试中表现出色，尤其是在处理长达一小时的视频理解任务时，其性能超越了现有的方法。此外，LongVU还能够在保持最先进的视频理解性能的同时，有效地缩减模型规模，使其适用于轻量级LLM。

LongVU的开源资源


LongVU的代码已经在GitHub上开源，项目和演示页面也提供了详细的信息和资源，方便研究人员和开发者进一步探索和应用LongVU。

结论

LongVU作为一种新型的时空自适应压缩机制，为长视频的语言理解提供了一种有效的解决方案。通过减少视频标记的数量并保留视觉细节，LongVU不仅提高了视频处理的效率，还保持了视频内容的完整性。随着视频内容的快速增长，LongVU的出现无疑为多模态理解领域带来了新的可能性。

编辑推荐精选

iTerms

iTerms

企业专属的AI法律顾问

iTerms是法大大集团旗下法律子品牌，基于最先进的大语言模型(LLM)、专业的法律知识库和强大的智能体架构，帮助企业扫清合规障碍，筑牢风控防线，成为您企业专属的AI法律顾问。

SimilarWeb流量提升

SimilarWeb流量提升

稳定高效的流量提升解决方案，助力品牌曝光

稳定高效的流量提升解决方案，助力品牌曝光

Sora2视频免费生成

Sora2视频免费生成

最新版Sora2模型免费使用，一键生成无水印视频

最新版Sora2模型免费使用，一键生成无水印视频

Transly

Transly

实时语音翻译/同声传译工具

Transly是一个多场景的AI大语言模型驱动的同声传译、专业翻译助手，它拥有超精准的音频识别翻译能力，几乎零延迟的使用体验和支持多国语言可以让你带它走遍全球，无论你是留学生、商务人士、韩剧美剧爱好者，还是出国游玩、多国会议、跨国追星等等，都可以满足你所有需要同传的场景需求，线上线下通用，扫除语言障碍，让全世界的语言交流不再有国界。

讯飞绘文

讯飞绘文

选题、配图、成文，一站式创作，让内容运营更高效

讯飞绘文，一个AI集成平台，支持写作、选题、配图、排版和发布。高效生成适用于各类媒体的定制内容，加速品牌传播，提升内容营销效果。

热门AI辅助写作AI工具讯飞绘文内容运营AI创作个性化文章多平台分发AI助手
TRAE编程

TRAE编程

AI辅助编程，代码自动修复

Trae是一种自适应的集成开发环境（IDE），通过自动化和多元协作改变开发流程。利用Trae，团队能够更快速、精确地编写和部署代码，从而提高编程效率和项目交付速度。Trae具备上下文感知和代码自动完成功能，是提升开发效率的理想工具。

AI工具TraeAI IDE协作生产力转型热门
商汤小浣熊

商汤小浣熊

最强AI数据分析助手

小浣熊家族Raccoon，您的AI智能助手，致力于通过先进的人工智能技术，为用户提供高效、便捷的智能服务。无论是日常咨询还是专业问题解答，小浣熊都能以快速、准确的响应满足您的需求，让您的生活更加智能便捷。

imini AI

imini AI

像人一样思考的AI智能体

imini 是一款超级AI智能体，能根据人类指令，自主思考、自主完成、并且交付结果的AI智能体。

Keevx

Keevx

AI数字人视频创作平台

Keevx 一款开箱即用的AI数字人视频创作平台，广泛适用于电商广告、企业培训与社媒宣传，让全球企业与个人创作者无需拍摄剪辑，就能快速生成多语言、高质量的专业视频。

即梦AI

即梦AI

一站式AI创作平台

提供 AI 驱动的图片、视频生成及数字人等功能，助力创意创作

下拉加载更多