VNext

VNext项目简介

VNext是一个基于Detectron2的下一代视频实例识别框架，致力于视频实例分割领域的前沿研究。这个框架不仅支持复杂的在线和离线视频实例分割算法，还提供了针对对象中心视频分割任务的运动模型。未来，VNext团队会持续更新和完善这个框架，以提供一个统一且高效的视频实例识别框架，促进该领域的进一步发展。

已实现算法

VNext目前包含以下三种算法的官方实现：

• InstMove：这是一个为对象中心视频分割设计的算法，于2023年在CVPR大会上进行了展示。
• IDOL：该算法是基于视频实例分割在线模型的防御机制，并在2022年的ECCV大会上以口头报告的形式发表。
• SeqFormer：它是一个为视频实例分割设计的顺序转换器模型，亦在2022年的ECCV大会上进行了口头报告。

项目新闻

• InstMove已被CVPR 2023录用，其代码和模型可供研究者获取和使用。
• IDOL和SeqFormer均在ECCV 2022上进行了口头报告，IDOL更是在第四届大型视频对象分割挑战的比赛中荣获第一名。

入门指南

• 安装和数据准备详细步骤请参考安装说明。
• InstMove的训练、评估、插件以及模型仓库详细说明可参考相关文档。
• IDOL和SeqFormer的训练、评估及模型仓库的详细信息也有相应说明。

IDOL详细介绍

IDOL（在线模型在视频实例分割中的防御）在视频实例分割领域取得了显著成绩。IDOL解决了在线模型和离线模型之间的性能差距问题，并在三个基准测试中均超越了现有的方法。该算法在视频实例分割的国际挑战中也取得了优秀的成绩。

量化结果

IDOL在YouTube-VIS 2019和OVIS 2021的测试中展示了其优越的性能。

SeqFormer详细介绍

SeqFormer利用顺序转换器技术在视频的每一帧中定位实例，同时汇聚时间信息，形成强大的视频实例表示，用于动态预测每一帧的掩码序列。SeqFormer是一种准确且简洁的离线模型，能够实现自然的实例追踪，而无需额外的追踪分支或后处理步骤。

量化结果

SeqFormer在YouTube-VIS 2019和2021的测试中表现出色，展示了其在视频实例分割任务中的强大能力。

致谢

VNext项目的开发受益于其他开源项目的启发和支持，包括Detectron2、Deformable DETR、VisTR和IFC，感谢这些项目的贡献者们的优秀工作。