VALSE Webinar 20221012-26期 总第293期 自监督表示学习及其应用

报告嘉宾：陈小军 (深圳大学)

报告题目：Self-supervised Image Clustering

报告嘉宾：康昭 (电子科技大学)

报告题目：自监督思想在聚类中的应用

Panel嘉宾：

陈小军 (深圳大学)、康昭 (电子科技大学)、胡迪 (中国人民大学)、胡鹏 (四川大学)

Panel议题：

1. 在对比学习中，正负样本的采样策略对模型的效率和性能至关重要，在采样过程中有哪些可以遵循的原则，如何挖掘高效的正样本对？针对可能出现的假负样本问题有什么有效可行的解决思路？

2. 除了典型的对比学习和生成方法，在自监督学习过程中还有哪些可以挖掘的额外监督信息？

3. 目前主流的自监督模型往往存在大力出奇迹的弊端，在训练过程中需要大规模训练数据、大Batchsize,那么针对小规模数据、有限的计算资源，有什么有效可行的解决思路？

4. 在学习过程中，所产生的伪标签等自监督信号的可信性和有效性如何保证

5. 相较于传统的单模态自监督学习框架，多模态自监督学习具有更广泛的应用，在多模态自监督学习中有哪些最新进展，相较于单模态需要额外关注哪些信息？

6. 在自监督学习模型向下游任务迁移时，不同数据集的嵌入空间往往是不同的，如何有效地学习可迁移的归纳偏差，提升自监督模型在不同数据集中的有效性？

*欢迎大家在下方留言提出主题相关问题，主持人和panel嘉宾会从中选择若干热度高的问题加入panel议题！

报告嘉宾：陈小军 (深圳大学)

报告时间：2022年10月12日 (星期三)晚上20:00 (北京时间)

报告题目：Self-supervised Image Clustering

报告人简介：

陈小军，深圳大学计算机与软件学院沃顿讲席研究员，大数据技术与应用研究所所长助理，CCF理事/ 高级会员，CCF人工智能/ 自然语言处理专委会执委，CCF YOCSE深圳2020-2021主席。曾先后在香港大学及中科院深圳先进技术研究院工作。主要研究内容包括多模态数据分析及检索、自监督学习及分布式机器学习等技术。在相关领域高水平国际学术期刊和会议上发表SCI/ EI检索论文70余篇，包括超过30篇计算机学会推荐的A 类论文及中科院1区论文 (包括会议KDD/ ICCV/ AAAI/ IJCAI/ ICDE/ SIGIR/ EMNLP及期刊IEEE TKDE/ TNNLS/ TCYB/ TMM/ IJCV)30余篇；先后开发了开源数据挖掘系统、云端混合分布式挖掘系统等多个分析系统。任多个国际会议 (AAAI/ IJCAI/ WWW等)及国际期刊 (IEEE TNNLS/ TKDE/ TCYB/ TPAMI等)的审稿人。在无监督学习方面的研究成果先后获得2016年度深圳市自然科学技术奖二等奖及2018年度广东省自然科学技术奖二等奖。主持或参与多个自然科学基金面上/ 重点项目，科技部重点研发项目，国家863 项目以及中国科学院战略性先导科技专项等项目。

个人主页：

https://www.scholat.com/xjchensz

报告摘要：

Image clustering is an important, and open challenge task in computer vision. The main problem in self-supervised clustering is how to construct trustworthy supervised signals. In this report, we will introduce our new methods and their experimental results. Meanwhile, we will provide theoretical analysis about our new methods.

参考文献：

[1] Shaotian Cai, Liping Qiu, Xiaojun Chen*, Qin Zhang and Longteng Chen: Semantic-enhanced Image Clustering. arXiv preprint arXiv:1908.03557.

报告嘉宾：康昭 (电子科技大学)

报告时间：2022年10月12日 (星期三)晚上20:30 (北京时间)

报告题目：自监督思想在聚类中的应用

报告人简介：

康昭，电子科技大学计算机科学与工程学院副教授，入选四川省千人计划和百度全球高潜力AI华人青年学者榜单。2017年5月博士毕业于美国南伊利诺伊大学，主要从事无监督机器学习研究。已在人工智能领域的国际顶级会议和期刊发表论文80余篇，包括NeurIPS/ AAAI/ IJCAI/ ICDE/ Multimedia/ CVPR/ SIGKDD/ IEEE TCyb/ TNNLS/ TKDE/ TIP等CCF-A类和中科院JCR 1区论文30余篇，ESI高被引论文5篇，谷歌学术引用2800余次。出版《人工智能基础》教材。主持自然科学基金面上、青年基金等国家级 (重点)项目多项。多次受邀担任CCF A类会议程序委员会 (高级)委员，AAAI 2022领域主席。

个人主页：

https://zhaokang.site/

报告摘要：

自监督学习利用输入数据本身作为监督信号，是一种新的表征学习方法。近年来，其在多个领域取得了骄人的成绩，吸引了学术界和工业界的广泛关注。事实上，除了表征学习，自监督思想还可以应用到其它任务上，甚至非深度神经网络方法中。本报告将以聚类问题为例，介绍自监督思想在图结构学习，多层网络表征，子空间学习方面的应用。

参考文献：

[1] Zhiping Lin, Zhao Kang, Lizong Zhang, Ling Tian, Multi-view Attributed Graph Clustering, IEEE Transactions on Knowledge and Data Engineering, 2021

[2] Changshu Liu, Liangjian Wen, Zhao Kang，Guangchun Luo, Ling Tian, Self-supervised Consensus Representation Learning for Attributed Graph, ACM Multimedia, 2021.

[3] Erlin Pan, Zhao Kang, Multi-view Contrastive Graph Clustering, NeurIPS 2021.

[4] Juncheng Lv, Zhao Kang, Xiao Lu, Zenglin Xu, Pseudo-supervised Deep Subspace Clustering, IEEE Transactions on Image Processing, 2021.

[5] Ruiyi Fang, Liangjian Wen, Zhao Kang, Jianzhuang Liu，Structure-Preserving Graph Representation Learning，ICDM 2022.

[6] Liang Liu, Zhao Kang, Jiajia Ruan, Xixu He, Multilayer Graph Contrastive Clustering Network, Information Sciences, 2022.

[7] Zekun Li, Zhengyang Geng, Zhao Kang, Wenyu Chen, Yibo Yang, Eliminating Gradient Conflict in Reference-based Line-art Colorization，ECCV 2022.

Panel嘉宾：胡迪 (中国人民大学)

嘉宾简介：

胡迪，现任中国人民大学高瓴人工智能学院准聘助理教授，博导。受中国科协青年人才托举工程资助。主要研究方向为机器多模态感知与学习，以主要作者身份在领域顶级国际会议及期刊上发表论文20余篇，如TPAMI/ NeurIPS/ CVPR/ ICCV/ ECCV等。荣获2019 ACM XI’AN 优博奖，2020中国人工智能学会优博奖；入选中国人民大学“杰出学者”计划，百度全球顶尖人工智能人才计划等。担任若干顶级会议SPC/ Session Chair，并主办/ 协办多场国际顶级会议讲习班。部分研究成果正同产业应用相结合以发挥其社会价值，如利用机器辅助手段提升视障人士的感知能力等。

个人主页：

https://gewu-lab.github.io/

Panel嘉宾：胡鹏 (四川大学)

嘉宾简介：

胡鹏，四川大学副研究员。2019年毕业于四川大学并获得博士学位。2019至2020年在新加坡信息通信研究所 (I2R, A*STAR)担任研究员。主要研究方向包括表示学习及其在多媒体计算、视觉计算、图像处理等领域中的应用，目前在IEEE TPAMI/ IEEE TIP/ CVPR/ NeurIPS/ AAAI/ ACM MM'等国际期刊和会议上发表论文30余篇。

个人主页：

https://penghu-cs.github.io/

主持人：杨旭 (西安电子科技大学)

嘉宾简介：

杨旭， 2021年6月毕业于西安电子科技大学，现为西安电子科技大学电子工程学院副教授，硕士生导师。其研究方向为多模态数据的表示学习，主要包括自监督学习和图学习，在IEEE TPAMI/ IEEE TIP/ IEEE TNNLS/ CVPR/ NeurIPS/ IJCAI/ AAAI等顶级会议和期刊发表学术论文20余篇，荣获2021 ACM XI’AN 优博奖，2021年吴文俊人工智能科学技术奖优秀博士论文奖。受邀担任NeurIPS/ ICML/ ICLR/ CVPR/ IJCAI/ AAAI等会议程序委员会成员，以及IEEE TIP/ IEEE TNNLS/ IEEE TCYB等期刊审稿人。

特别鸣谢本次Webinar主要组织者：

主办AC：杨旭 (西安电子科技大学)