20211215-2-32 总第261期 学无止境：深度连续学习

报告嘉宾：李玺 (浙江大学)

报告题目：基于深度神经网络的持续性学习理论与方法

报告嘉宾：洪晓鹏 (哈尔滨工业大学)

报告题目：记忆拓扑保持的深度增量学习方法

Panel嘉宾：

余山 (中国科学院自动化研究所)、李玺 (浙江大学)、王子磊 (中国科学技术大学)、孙干 (中国科学院沈阳自动化研究所)、刘宇 (大连理工大学)

Panel议题：

1. 连续学习、增量学习、终身学习的定义和目标是否是完全一致的？

2. 连续学习，特别是小样本连续学习，与元学习Meta learning在目标上的异同是什么，各自有什么应用的场景？

3. 目前大部分连续学习/增量学习方法仍依赖于完备的标注数据，请问在非监督或半监督学习条件下，是否有哪些可行的解决思路？

4. 当前不少连续学习/增量学习方法都或多或少地使用了旧类别的部分样本，请问基于replay的方法和不带有旧类exemplar的方法哪个才更是增量学习发展的主流？

5. 增量学习通常分为Task-incremental、domain-incremental以及class-incremental，它们的核心差异是什么？有没有其它的划分方式？

6. 目前的增量学习方法通常隐式地要求任务的性质差异或者domain shift不能太大，甚至假设所有类/样本都来自同一数据集，探索在真实场景中表现更稳健的算法可以从哪些角度研究？

*欢迎大家在下方留言提出主题相关问题，主持人和panel嘉宾会从中选择若干热度高的问题加入panel议题！

报告嘉宾：李玺 (浙江大学)

报告时间：2021年12月15日 (星期三)晚上20:00 (北京时间)

报告题目：基于深度神经网络的持续性学习理论与方法

报告人简介：

李玺，IET Fellow，IEEE Senior Member，浙江大学上海高等研究院副院长，浙江大学-每日互动数据智能研发中心主任，第七届中国图象图形学会理事，浙江省杰出青年科学基金获得者，浙江省特聘专家。主要从事计算机视觉、模式识别和机器学习等领域的研究和开发。主持科技部科技创新2030“新一代人工智能”重大项目，基金委区域创新发展联合基金重点项目、教育部重点规划研究项目和千万级重大产学研合作项目。担任FGIP 2021和ICCCV 2021程序主席，TNNLS、TCSVT、TMM等权威期刊编委和ACM MM 2021、CVPR 2020、ICCV 2019等顶级会议领域主席。在国际权威期刊和顶级学术会议发表或录用文章180余篇，成果应用于华为、阿里、腾讯、每日互动、福瑞泰克等企业相关产品。获得2021年中国图象图形学学会自然科学奖二等奖，两项北京市科学技术奖 (包括2012年一等奖和2008年二等奖)，2021年世界人工智能大会最高奖——“卓越人工智能引领者” (SAIL奖)，最佳国际会议论文奖 (包括ACCV 2010和DICTA 2012)，最佳学生论文奖 (ACML 2017)，2019年度中国图象图形学报最佳封面文章，2020年度中国图象图形学报年度优秀论文，ICIP 2015 Top 10%论文奖，以及2013年中国专利优秀奖。

个人主页：

https://person.zju.edu.cn/xilics

报告摘要：

本报告主要围绕数据驱动的持续性学习方法，进行深度神经网络结构建模，从学习机理、任务解耦、可解释性分析、计算效率等多维度视角进行了深入剖析，并引入了当前主流的持续性学习方向所涉及的主要研究问题和技术方法。然后系统地回顾了相关领域的不同发展阶段，介绍了近年来我们实验室所做的一系列代表性的研究工作及其应用。

参考文献：

[1] Zhao, H., Fu, Y., Kang, M., Tian, Q., Wu, F., and Li, X*.,“MgSvF: Multi-Grained Slow vs. Fast Framework for Few-Shot Class-Incremental Learning“，IEEE Transactions on Pattern Analysis and Machine Intelligence (TPAMI), 2021.

[2] Zhao, H., Zeng, H., Qin, X., Fu, Y., Wang, H., Omar, B., and Li, X*.,“What and Where: Learn to Plug Adapters via NAS for Multi-Domain Learning,'   IEEE Transactions on Neural Network and Learning Systems (TNNLS) , 2021. 

[3] Zhao, H., Wang, H., Fu, Y., Wu, F., and Li, X*., 'Memory Efficient Class-Incremental Learning for Image Classification,'  IEEE Transactions on Neural Network and Learning Systems (TNNLS) , 2021.

[4] Fu, Y., Wang, F., Li, S., Zhao, H., Fang, W., Zhuang, Y., Pan Z., and Li, X*.,“Elastic Knowledge Distillation by Learning from Recollection,'   IEEE Transactions on Neural Network and Learning Systems (TNNLS) , 2021. 

报告嘉宾：洪晓鹏 (哈尔滨工业大学)

报告时间：2021年12月15日 (星期三)晚上20:30 (北京时间)

报告题目：记忆拓扑保持的深度增量学习方法

报告人简介：

洪晓鹏，哈尔滨工业大学教授。历任芬兰Oulu大学博士后研究员、Docent (芬兰副高、博士生导师)和西安交通大学特聘研究员，澳洲国立大学访问学者和美国马里兰大学帕克校区访问教授。在视频监控、深度连续学习、脸部微小运动分析等方面开展了多年研究。曾先后主持国家重点研发计划课题、面上基金、芬兰信息技术学会博士后基金等项目。在IEEE会刊和CCF A类会议上发表论文50余篇。在脸部微小运动分析方面的相关工作见诸美国《麻省理工技术评论》等国际权威媒体专文报道并获IEEE芬兰区年度最佳学生会议论文奖。图像图形学会情感计算与理解专业委员会副秘书长，视觉与学习青年学者研讨会 (VALSE)执行领域主席。受邀担任PRL和SIVP等期刊的客座编委和主流国际会议ACM MM、IJCAI、AAAI和ICME的领域主席或资深程序委员。在主流国际会议上合作组织Workshop六次和Tutorial两次，并曾获评期刊Pattern Recog.的Outstanding Reviewer。

个人主页：

http://homepage.hit.edu.cn/hongxiaopeng

报告摘要：

本报告将针对深度神经网络在学习新任务新知识时的 “灾难性遗忘”困境，围绕“记忆”的形式化，“记忆”的重要性质，以及“记忆”重要性质如何保持等问题，简要汇报我们在深度网络灾难性遗忘抑制方面的工作，重点介绍学习与记忆相融合的深度增量学习框架，探讨拓扑保持网络的使用、拓扑保持正则项的设计和增量学习的实验设置等内容。

参考文献：

[1] S. Dong, X. Hong, X. Tao, X. Chang, X. Wei, Y. Gong. Few-Shot Class-Incremental Learning via Relation Knowledge Distillation. AAAI, 2021.

[2] X. Tao, X. Hong, X. Chang, S. Dong, X. Wei, Y. Gong. Few-Shot Class-Incremental Learning. Proceedings of the 2020 Conference on Computer Vision and Pattern Recognition, CVPR20, 2020. Oral

[3] X. Tao, X. Chang, X. Hong, X. Wei, Y. Gong. Topology-Preserving Class-Incremental Learning. ECCV20, 2020.

[4] X. Tao, X. Hong, X. Chang, Y. Gong. Bi-objective Continual Learning: Learning ‘New’ while Consolidating ‘Known,’ Proceedings of the AAAI Conference on Artificial Intelligence, AAAI20, 2020.

Panel嘉宾：余山 (中国科学院自动化研究所)

嘉宾简介：

余山，博士，中国科学院自动化所研究员，博士生导师，模式识别国家重点实验室副主任，北京市“智源学者”。　2000年和2005年分别于中国科学技术大学获得生物学学士和博士学位。之后于2005-2014年在德国马克普朗克脑研究所、美国国立精神卫生研究所开展博士后研究。2014年9月入职中科院自动化所。研究结合大规模神经网络动态活动记录与复杂网络、信息论、统计力学等分析方法，在神经网络状态调节、信息处理、编解码机制等方面做出了一系列交叉创新成果，包括首次发现视觉皮层神经网络的小世界结构、首次证实信息处理过程中脑中介观神经网络位于临界状态等。　近年来也致力于脑科学与智能技术的交叉方向，开展类脑智能和脑机接口的研究。在包括Journal of Neuroscience, Cerebral Cortex,  elife 等神经科学重要期刊，以及Nature Machine Intelligence, Neural Networks, CVPR, AAAI等信息与智能领域重要期刊和会议共发表论文30余篇，　担任BMC Neuroscience， Machine Intelligence Research等杂志编委。

个人主页：

http://www.ia.cas.cn/sourcedb_ia_cas/cn/iaexpert/201407/t20140717_4160162.html

Panel嘉宾：王子磊 (中国科学技术大学)

嘉宾简介：

王子磊，中国科学技术大学副教授、博导，合肥综合性国家科学中心人工智能研究院院长助理，主要研究方向为计算机视觉、深度学习、类脑智能等，当前重点关注受限数据条件下的视觉学习问题，以及工业场景下的视觉智能应用研究，如域适应学习、增量学习、半监督学习等。目前已发表八十余篇学术论文，包括CVPR、ICCV、ECCV、AAAI等领域会议论文，获得多项中国发明专利。曾先后承担多项国家自然科学基金重点项目和面上项目、智能创新基金、安徽省自然科学基金，以及各类合作项目等，曾获得环保部科学技术一等奖、安徽省自然科学优秀学术论文一等奖、ICPR最佳论文奖等。

个人主页：

http://vim.ustc.edu.cn

Panel嘉宾：孙干 (中国科学院沈阳自动化研究所)

嘉宾简介：

孙干，中国科学院沈阳自动化研究所副研究员，硕士生导师，主要研究方向为终身/连续学习、域适应学习、联邦学习和跨模态学习等。2020年毕业于中科院沈阳自动化研究所，获博士学位，2018年起至2019年先后在美国东北大学 (NEU)和美国麻省理工学院 (MIT)从事访问研究工作。发表论文50余篇，其中包括多篇IEEE Transactions 论文TPAMI/TIP/TNNLS/TCSVT，和计算机视觉以及人工智能顶级会议CVPR/ICCV/AAAI/IJCAI等，提出了终身三维目标识别、终身无监督学习框架等新方法。2019年获得中科院院长特别奖，中国自动化学会自然科学一等奖 (排名第四)，2020年入选“博士后创新人才支持计划”，获得辽宁省自然科学一等奖 (排名第四)。受邀担任TNNLS/TCSVT等期刊审稿人，和AAAI/IJCAI/KDD/WSDM等会议PC或SPC。

个人主页：

http://people.ucas.edu.cn/~sungan

主持人：刘宇 (大连理工大学)

主持人简介：

刘宇，大连理工大学，国际信息与软件学院，副教授。2018年博士毕业于荷兰莱顿大学，2019年至2020年在比利时鲁汶大学从事博士后研究，入选大连市2021年新引进高层次人才 (青年才俊)。主要研究兴趣为连续学习、多模态检索及半监督迁移学习。在计算机视觉领域的主流期刊和会议上发表论文20余篇。近三年在CVPR/ICCV/ECCV共同参与组织workshop 4次，曾获2017年国际多媒体建模会议 (MMM)最佳论文奖，ICCV 2021杰出审稿人。

个人主页：

https://liuyudut.github.io/

Panel主持人：洪晓鹏 (哈尔滨工业大学)

主持人简介：

洪晓鹏，哈尔滨工业大学教授。历任芬兰Oulu大学博士后研究员、Docent (芬兰副高、博士生导师)和西安交通大学特聘研究员，澳洲国立大学访问学者和美国马里兰大学帕克校区访问教授。在视频监控、深度连续学习、脸部微小运动分析等方面开展了多年研究。曾先后主持国家重点研发计划课题、面上基金、芬兰信息技术学会博士后基金等项目。在IEEE会刊和CCF A类会议上发表论文50余篇。在面部微小运动分析方面的相关工作见诸美国《麻省理工技术评论》等国际权威媒体专文报道并获IEEE芬兰区最佳学生会议论文奖。图像图形学会情感计算与理解专业委员会副秘书长，视觉与学习青年学者研讨会 (VALSE)执行领域主席。受邀担任PRL和SIVP等期刊的客座编委和主流国际会议ACM MM、IJCAI、AAAI和ICME的领域主席或资深程序委员。

个人主页：

http://homepage.hit.edu.cn/hongxiaopeng

特别鸣谢本次Webinar主要组织者：

主办AC：洪晓鹏 (哈尔滨工业大学)

协办AC：刘宇 (大连理工大学)