VALSE 论文速览 第51期：Cross-Encoder: 无监督视线表示学习框架

论文题目：Cross-Encoder for Unsupervised Gaze Representation Learning

作者列表：孙蕴嘉 (中国科学院计算技术研究所，中国科学院大学)，曾加贝 (中国科学院计算技术研究所)，山世光 (中国科学院计算技术研究所，中国科学院大学)，陈熙霖 (中国科学院计算技术研究所，中国科学院大学)

B站观看网址：

https://www.bilibili.com/video/BV1V44y1n7q8/

论文摘要：

为了在没有大量标注数据的情况下进行 3D 视线估计的深度学习，我们提出了无监督学习框架 Cross-Encoder，利用无标签数据来学习视线估计的表示。为了解决视线特征总是与眼睛特征耦合在一起的问题，Cross-Encoder 在“相同眼图像对”和“视线相似图像对”上交换一部分特征，以达到解耦的目的。具体来说，每张图像都会被编码为一个视线特征和一个眼睛特征。Cross-Encoder根据其视线特征和图像对中另一图像的眼睛特征来重构“相同眼图像对”中的每幅图像，而根据眼睛特征和图像对中另一图像的视线特征重构“视线相似图像对”中的每幅图像。实验结果证明了我们工作的有效性。首先，不论是跨数据集，还是在同一数据集内，Cross-Encoder学习的视线表示在使用很少样本训练的情况下，优于其他无监督学习方法。其次，由Cross-Encoder预训练的ResNet18能与目前最好的视线估计方法相匹敌。最后，消融实验表明，Cross-Encoder解耦了视线特征与眼部特征。

论文信息：

[1] Yunjia Sun, Jiabei Zeng, Shiguang Shan, Xilin Chen, "Cross-Encoder for Unsupervised Gaze Representation Learning," 18th International Conference on Computer Vision (ICCV 2021), pp. 3702-3711, Virtual, October 11-17, 2021.

论文链接：

[https://openaccess.thecvf.com/content/ICCV2021/papers/Sun_Cross-Encoder_for_Unsupervised_Gaze_Representation_Learning_ICCV_2021_paper.pdf]

代码链接：

[https://github.com/sunyunjia96/Cross-Encoder]

视频讲者简介：

孙蕴嘉，中国科学院大学、中国科学院计算技术研究所博士生，研究方向为计算机视觉，目前专注于3D视线估计。

特别鸣谢本次论文速览主要组织者：

月度轮值AC：刘昊 (宁夏大学)、叶茫 (武汉大学)

季度责任AC：杨猛 (中山大学)