20190403-07 迁移学习与领域适配

2019-3-28 22:43| 发布者: 程一-计算所| 查看: 32473| 评论: 0

摘要: VALSE Webinar改版说明：自2019年1月起，VALSE Webinar改革活动形式，由过去每次一个讲者的方式改为两种可能的形式：1）Webinar专题研讨：每次活动有一个研讨主题，先邀请两位主题相关的优秀讲者做专题报告（每人30 ...

VALSE Webinar改版说明：

自2019年1月起，VALSE Webinar改革活动形式，由过去每次一个讲者的方式改为两种可能的形式：

1）Webinar专题研讨：每次活动有一个研讨主题，先邀请两位主题相关的优秀讲者做专题报告（每人30分钟），随后邀请额外的2~3位嘉宾共同就研讨主题进行讨论（30分钟）。

2）Webinar特邀报告：每次活动邀请一位资深专家主讲，就其在自己熟悉领域的科研工作进行系统深入的介绍，报告时间50分钟，主持人与主讲人互动10分钟，自由问答10分钟。

报告时间：2019年4月3日（星期三）晚上20:00（北京时间）

主题：迁移学习与领域适配（Transfer Learning and Domain Adaptation）

主持人：杜博（武汉大学）

报告嘉宾：李文（ETH Zurich）

报告题目：Image Translation for Domain Adaptation and Generalization

报告嘉宾：邓成（西安电子科技大学）

报告题目：Zero-Shot Learning for Information Retrieval

Panel议题：

如何更好地让迁移学习技术落地，有哪些很好的落地场景？
学生从事迁移学习研究的基本路径是什么？怎么评估迁移学习工作的价值？
迁移学习目前的热点和瓶颈是什么？还有哪些值得做的应用研究方向？
迁移学习在实际工程应用中，到底有没有价值？
迁移学习想迁移的到底是什么？
如果能够采集到足够多的标注数据，还需不需要迁移学习？
如何评估何时需要迁移学习和领域适配？
迁移学习与生成对抗网络的联系？

Panel嘉宾：

段立新（电子科技大学）、龙明盛（清华大学）

*欢迎大家在下方留言提出主题相关问题，主持人和panel嘉宾会从中选择若干热度高的问题加入panel议题！

报告嘉宾：李文（瑞士苏黎世联邦理工学院）

报告时间：2019年4月3日（星期三）晚上20:00（北京时间）

报告题目：Domain Adaptation and Generalization with Image Translation

报告人简介：

李文，目前任瑞士苏黎世联邦理工学院计算机视觉实验室博士后研究员，合作导师为知名计算机专家Luc Van Gool教授。他于2015年在新加坡南洋理工大学取得博士学位，主要研究方向为计算机视觉与迁移学习，重点研究视觉应用中的标注数据有限、数据分布差异等问题，在T-PAMI、IJCV、CVPR、ICCV、ECCV等重要国际期刊和会议上发表30多篇学术论文，谷歌学术引用1400余次。

个人主页：

http://www.vision.ee.ethz.ch/~liwenw/

报告摘要：

Deep learning models often suffer from the challenge of domain shift in real world scenarios. That is, the test data (i.e., the target domain) exhibits a considerable distribution difference from the training data (i.e., the source domain). In this talk, I will present our recent two works on using image translation techniques to generate training data for improving the model performance in the target domain. In the first work, we propose a new domain flow generation (DLOW) approach, which is able to translate images from the source domain into an arbitrary intermediate domain between source and target domains. The generated data in the intermediate domains alleviate the domain difference between source and target domains, thus can be used to improve the cross-domain generalization ability of deep learning model. In the second work, we improve the conventional image translation method by considering privileged information in source domain. Taking synthetic to real domain adaptation as an example, we show that the geometric information from synthetic data helps to generated high-quality real style images, and therefore improves the model performance when those generated real style images are used as the training data.

参考文献：

[1] Yuhua Chen, Wen Li, Xiaoran Chen, Luc Van Gool. Learning Semantic Segmentation from Synthetic Data: A Geometrically Guided Input-Output Adaptation Approach. CVPR 2019.

[2] Rui Gong, Wen Li, Yuhua Chen, Luc Van Gool. DLOW: Domain Flow for Adaptation and Generalization. CVPR 2019.

报告嘉宾：邓成（西安电子科技大学）

报告时间：2019年4月3日（星期三）晚上20:30（北京时间）

报告题目：Zero-shot Learning for Cross-domain Information Retrieval

报告人简介：

邓成，教授，博士生导师。2012年获陕西省青年科技新星，2012年入选教育部新世纪优秀人才支持计划，2017年获得陕西省中青年科技创新领军人才，2018年获得陕西省青年科技标兵，主要从事多模态数据感知与理解方面的研究工作。主持国家自然科学基金项目、科技部“863”计划等课题20余项，获发明专利授权26项，发表学术论文近100篇，其中在国际一流期刊和国际顶级会议发表论文近60篇，包括IEEE TNNLS, TIP, TCYB, ICML, NIPS, ICCV, CVPR等。被Google Scholar引用近1700次，SCI他引近700次。研究成果获国家自然科学二等奖1项（2016，第三完成人）、陕西省科学技术奖一等奖2项（2011, 2015，第三完成人）、教育部自然科学二等奖1项（2013）。

报告摘要：

当前，基于数据驱动的深度学习方法在多种视觉任务上表现出色，但大规模训练数据的标注费时费力，并且现实生活中难以保证训练数据的类别涵盖全部测试数据的类别。因此，零样本学习成为计算机视觉领域研究热点，也是通往人工智能的必经之路之一。本报告将讨论零样本学习的研究现状，介绍基于深度生成模型的零样本检索等最新系列研究工作，并讨论零样本学习的开放问题及其发展趋势。

参考文献：

[1] Y. Shen, L. Liu, F. Shen, and L. Shao, “Zero-shot sketch-image hashing,” in CVPR, 2018, pp. 3598–3607.

[2] S. K. Yelamarthi, S. K. Reddy, A. Mishra, and A. Mittal, “A zeroshot framework for sketch based image retrieval.” in ECCV, 2018, pp. 316–333.

[3] J. Song, Q. Yu, Y.-Z. Song, T. Xiang, and T. M. Hospedales, “Deep spatial-semantic attention for fine-grained sketch-based image retrieval.” in ICCV, 2017, pp. 5552–5561.

[4] Y. Xian, C. H. Lampert, B. Schiele, and Z. Akata, “Zero-shot learning-a comprehensive evaluation of the good, the bad and the ugly,” IEEE Trans. Pattern Anal. Mach. Intell., 2018.

Panel嘉宾：杜博（武汉大学）

嘉宾简介：

杜博，武汉大学计算机学院副院长，国家优秀青年科学基金获得者，珞珈特聘教授，湖北省杰青，博士生导师，IEEE Senior Member，图像处理领域SCI二区期刊Neurocomputing的Associate Editor，人工智能领域CCF A类顶会AAAI和IJCAI的Senior PC Member，IEEE ACCESS的Associate Editor，人工智能领域著名会议ICPR和IJCNN的Area chair，VALSE执行AC。主要从事人工智能、计算机视觉和图像处理等方面的研究工作，近五年主持和参与相关纵向研究课题30余项，其中主持国家自然科学基金3项、国家重点研发计划课题1项、教育部总装备部联合基金1项、973子课题1项、国家自然科学基金重点项目子课题1项、国家博士后科学基金1项、湖北省自然科学基金2项。出版著作1部，发表SCI论文共计84篇，第一、通讯作者SCI论文44篇（包含二区以上31篇、IEEE长文16篇），ESI高引论文13篇，ESI热点论文6篇。申请/获批国家发明专利10余项，其中授权4项、转让1项。研究论文被评为CCF A类顶会IJCAI 杰出论文奖、IEEE智能系统与图像处理大会最佳论文、教育部博士论坛优秀学术论文、两次评为湖北省自然科学优秀学术论文。荣获国际计算机学会学术新星奖“2015 ACM Rising Star Award”，被评选为“IEEE Best Reviewer”，入选 “全国博士后特别资助计划”、湖北省“优秀博士后资助基金”、“武汉市晨光青年科技人才计划”等人才计划。荣获2018 IEEE 全球数据融合大赛总冠军、(MAICCAI) 全球核磁共振医学图像前列腺分割大赛（PROMISE12）总冠军。

Panel嘉宾：段立新（电子科技大学）

嘉宾简介：

段立新，博士，国家青年千人计划入选者，电子科技大学教授、博导, VALSE执行AC。2008 年本科毕业于中国科学技术大学，2012 年博士毕业于新加坡南洋理工大学。主要研究方向为迁移学习、域适应、深度学习等机器学习算法及其在物体识别/检测/分割、眼底图像分析上的应用。近年来在国际高水平会议和期刊发表论文30余篇，Google Scholar总引用次数超过2500次。曾获2009年微软亚洲研究院授予的微软学者奖，2010年CVPR最佳学生论文奖，2012年CVPR杰出审稿人奖。

个人主页：

http://www.lxduan.info/

Panel嘉宾：龙明盛（清华大学）

嘉宾简介：

龙明盛，博士，清华大学软件学院副教授，博士生导师，大数据系统软件国家工程实验室机器学习组组长。分别于2008和2014年从清华大学获学士和博士学位，2014-2015年在加州大学伯克利分校从事深度迁移学习研究工作（合作导师：Michael I. Jordan）。研究领域涵盖机器学习算法、理论、系统和应用，特别是深度学习、迁移学习、预测学习和对抗学习及其在图像视频识别、预测、检索任务中的应用。以第一作者或通讯作者在T-PAMI/ICML/NIPS/CVPR等CCF-A类会议和期刊上发表论文40余篇，谷歌学术引用超过2800次，其中在ICML’15发表的深度迁移学习论文单篇引用600余次，长期担任上述会议的（高级）程序委员会委员。主持国家重点研发计划、国家自然科学基金等国家级项目3项。2012年获SIAM国际数据挖掘会议最佳论文提名，2016年获中国人工智能学会优秀博士学位论文奖，2018年获教育部技术发明一等奖。

个人主页：

http://ise.thss.tsinghua.edu.cn/~mlong/

19-07期VALSE在线学术报告参与方式：

长按或扫描下方二维码，关注“VALSE”微信公众号（valse_wechat），后台回复“07期”，获取直播地址。