VALSE 论文速览 第46期：基于多层次特征优化的自监督视频表征学习 ...

论文题目：Enhancing Self-supervised Video Representation Learning via Multi-level Feature Optimization

作者列表：钱锐 (上海交通大学)，李昱希 (上海交通大学，腾讯优图)，刘华斌 (上海交通大学)，John See (Heriot-Watt University)，丁双睿 (上海交通大学)，刘锡安 (浙江大学)，李典 (腾讯PCG)，林巍峣 (上海交通大学)

B站观看网址：

https://www.bilibili.com/video/BV1a44y1p76i/

论文摘要：

自监督视频表征学习的目标是从无标注的视频数据中学习通用可迁移的特征。现有的工作大多从高维语义入手进行建模，但忽略了对通用视频理解非常重要的中低层次表征及视频中丰富的时域关系。为了解决这个问题，本文提出了一个统一的多级特征优化框架，以提高视频表征的泛化能力和时域感知能力。具体地，我们通过简单的实例判别和基于原型的对比学习联合优化高维语义特征，并基于此构建特征分布图，将其作为可靠的自监督信号用于指导中低层级特征的学习。同时，我们基于多级特征设计了一个简单的时间感知模块来增强对不同运动模式的判别。大量的实验表明，本文提出的具有图约束和时间建模的多级特征优化可以大幅提升视频表征的泛化性。

论文信息：

[1] Qian, Rui and Li, Yuxi and Liu, Huabin and See, John and Ding, Shuangrui and Liu, Xian and Li, Dian and Lin, Weiyao. "Enhancing Self-Supervised Video Representation Learning via Multi-Level Feature Optimization." In Proceedings of the IEEE/CVF International Conference on Computer Vision (ICCV), pp. pp. 7990-8001, virtual, October 2021.

论文链接：

[https://openaccess.thecvf.com/content/ICCV2021/html/Qian_Enhancing_Self-Supervised_Video_Representation_Learning_via_Multi-Level_Feature_Optimization_ICCV_2021_paper.html]

代码链接：

[https://github.com/shvdiwnkozbw/Video-Representation-via-Multi-level-Optimization]

视频讲者简介：

钱锐，香港中文大学博士生，研究方向为计算机视觉和机器学习，目前主要研究自监督表征学习和视频理解方面的工作，该工作于上海交通大学完成。

特别鸣谢本次论文速览主要组织者：

月度轮值AC：叶茫 (武汉大学)、刘昊 (宁夏大学)

季度责任AC：杨猛 (中山大学)