20210414-10 总第236期 元学习研究的进展与未来

报告嘉宾：孟德宇 (西安交通大学)

报告题目：应对高光谱复杂噪声的加权模型：一种数据驱动的显式加权机制

报告嘉宾：王宇雄 (美国伊利诺伊大学香槟分校)

报告题目：Learning to Learn More with Less

Panel嘉宾：

王宇雄 (美国伊利诺伊大学香槟分校)，张宇 (南方科技大学)，孙倩茹 (新加坡管理大学)，韩波 (香港浸会大学)，叶翰嘉 (南京大学)，何旭明 (上海科技大学)

Panel议题：

1. 根据元学习的一种定义，元学习旨在于学习某种“元结构”，使得模型或泛化性更强，或更鲁邦，或更有效。那什么是元学习？元学习在学什么？

2. 元学习在2016，2017年以来已经有许多进展，小样本学习，网络结构搜索，强化学习，robotics等，近期也在有bias数据中取得明显效果（如不均衡数据，噪声标注等）。哪类问题是元学习方法可以解决的？有什么问题是元学习难以解决的？

3. 最近元学习的热点，难点或挑战是什么？未来元学习会有哪些发展？

4. 基于优化的元学习往往采用inner-loop-outer-loop的方式，这类方法与基于度量的元学习方法相比，有什么优势或劣势？未来可能有哪些突破口？

5. 元学习与multi-task learning之间的关系?

*欢迎大家在下方留言提出主题相关问题，主持人和panel嘉宾会从中选择若干热度高的问题加入panel议题！

报告嘉宾：孟德宇 (西安交通大学)

报告时间：2021年04月14日 (星期三)晚上20:30 (北京时间)

报告题目：应对高光谱复杂噪声的加权模型：一种数据驱动的显式加权机制

报告人简介：

孟德宇，西安交通大学教授，博导。任西安交大大数据算法与分析技术国家工程实验室机器学习教研室负责人。共接收/发表论文80余篇，其中包括IEEE汇刊论文34篇，CCF A类会议论文37篇。目前主要聚焦于自步学习、误差建模、张量稀疏性等机器学习与计算机视觉领域的基础研究问题。

个人主页：

http://dymeng.gr.xjtu.edu.cn

报告摘要：

高光谱图像的加权去噪模型可以有效地应对复杂噪声场景，而这其中的关键是如何合理方便地设置模型中的权重。以往的权重设置机制主要有两种，一是根据对图像噪声的理解，人为预先设置好权值。另一种是对噪声分布做出假设，然后使用EM算法等逐步更新权重。这两种设置方式往往都需要对噪声做出比较准确的主观假设。针对这个问题，本次报告介绍一种数据驱动的显式加权机制。这种机制用一个浅层的卷积神经网络建立带噪高光谱图像和权值的直接映射关系，并且建立贝叶斯模型来构建该权值网络的训练框架。实验表明这种方式下训练好的网络所估计的权重不仅对噪声种类具有一定泛化性，并且可以迁移到一些其他的加权去噪模型中。

报告嘉宾：王宇雄 (美国伊利诺伊大学香槟分校)

报告时间：2021年04月14日 (星期三)晚上21:00 (北京时间)

报告题目：Learning to Learn More with Less

报告人简介：

Yuxiong Wang is an Assistant Professor in the Department of Computer Science at the University of Illinois at Urbana-Champaign. He received a Ph.D. in robotics from Carnegie Mellon University under the supervision of Martial Hebert. His research interests lie in computer vision, machine learning, and robotics, with a particular focus on few-shot learning, meta-learning, and streaming perception. He has spent time at Facebook AI Research (FAIR) and New York University. He received the Best Paper Honorable Mention Award in ECCV 2020.

个人主页：

https://yxw.cs.illinois.edu

报告摘要：

Understanding how humans and machines learn from few examples remains a fundamental challenge. Humans are remarkably able to grasp a new concept from just few examples, or learn a new skill from just few trials. By contrast, state-of-the-art machine learning techniques typically require thousands of training examples and often break down if the training sample set is too small.

In this talk, I will discuss our efforts towards endowing visual learning systems with few-shot learning ability. Our key insight is that the visual world is well structured and highly predictable in feature, data, and model spaces. Such structures and regularities enable the systems to learn how to learn new tasks rapidly by reusing previous experience. I will focus on two topics to demonstrate how to leverage this idea of learning to learn, or meta-learning, to address a broad range of few-shot learning tasks: task-oriented generative modeling and meta-learning in model space. In addition, I will discuss some ongoing work towards building embodied robots in the wild, especially on streaming computation with bounded resources.

参考文献：

[1] Weilin Zhang, Yu-Xiong Wang, “Hallucination Improves Few-Shot Object Detection”, in Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition (CVPR), 2021.

[2] Yuanyi Zhong, Jianfeng Wang, Lijuan Wang, Jian Peng, Yu-Xiong Wang, Lei Zhang, “DAP: Detection-Aware Pre-training with Weak Supervision”, in Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition (CVPR), 2021.

[3] Zhipeng Bao, Yu-Xiong Wang, Martial Hebert, “Bowtie Networks: Generative Modeling for Joint Few-Shot Recognition and Novel-View Synthesis”, in International Conference on Learning Representations (ICLR), 2021.

[4] Mengtian Li, Yu-Xiong Wang, Deva Ramanan, “Towards Streaming Perception”, in European Conference on Computer Vision (ECCV), 2020.

[5] Yu-Xiong Wang, Ross Girshick, Martial Hebert, Bharath Hariharan, “Low-Shot Learning from Imaginary Data”, in Proceedings of the IEEE Conference on Computer Vision and Pattern Recognition (CVPR), 2018.

[6] Yu-Xiong Wang, Deva Ramanan, Martial Hebert, “Learning to Model the Tail”, in Proceedings of the Annual Conference on Neural Information Processing Systems (NeurIPS), 2017.

[7] Yu-Xiong Wang, Martial Hebert, “Learning to Learn: Model Regression Networks for Easy Small Sample Learning”, in European Conference on Computer Vision (ECCV), 2016.

Panel嘉宾：张宇 (南方科技大学)

嘉宾简介：

张宇博士任职南方科技大学计算机科学与工程系副教授。他在南京大学获得计算机科学与技术学士及硕士学位，在香港科技大学获得计算机科学与工程博士学位。他的研究兴趣主要包括人工智能和机器学习，尤其对多任务学习、迁移学习、深度学习、维度约减、度量学习和半监督学习感兴趣。他曾获2010年第26届Uncertainty in Artificial Intelligence (UAI)及2019年第23届亚太知识发现与数据挖掘大会(PAKDD)最佳论文奖、2013年IEEE/WIC/ACM网络智能国际会议(WI)最佳学生论文奖等。

个人主页：

https://yuzhanghk.github.io

Panel嘉宾：孙倩茹 (新加坡管理大学)

嘉宾简介：

孙倩茹，新加坡管理大学助理教授，博士生导师。主要研究领域为计算机视觉和机器学习。感兴趣的研究课题有图像识别，图像生成，小样本学习等。

个人主页：

http://qianrusun.com

Panel嘉宾：韩波 (香港浸会大学)

嘉宾简介：

韩波，香港浸会大学计算机科学系助理教授，日本理化研究所人工智能项目访问科学家。2019-2020在日本理化研究所人工智能项目从事博士后研究。2019年在悉尼科技大学获得博士学位。目前主要研究方向为机器学习。

个人主页：

https://bhanml.github.io/

Panel嘉宾：叶翰嘉 (南京大学)

嘉宾简介：

叶翰嘉，南京大学人工智能学院特任副研究员，在南京大学机器学习与数据挖掘研究所（LAMDA）从事学术研究工作。主要的研究方向包括表示学习、多任务学习和元学习。相关的成果已经在开放环境系统、小样本系统等实际场景下进行使用。

个人主页：

http://www.lamda.nju.edu.cn/yehj/

Panel嘉宾：何旭明 (上海科技大学)

嘉宾简介：

Xuming He is currently an Associate Professor in the School of Information Science and Technology at ShanghaiTech University. He received Ph.D. degree in computer science from the University of Toronto in 2008. He held a postdoctoral position at the University of California at Los Angeles from 2008 to 2010. After that, he joined in National ICT Australia (NICTA) and was a Senior Researcher from 2013 to 2016. He was also an adjunct Research Fellow at the Australian National University from 2010 to 2016. His research interests include semantic segmentation, 3D scene understanding, and probabilistic graphical models. He is the author of more than 50 papers in top-tier journals and conferences such as IEEE TPAMI, IEEE TIP, CVPR, ICCV, ECCV, NIPS, AAAI, IJCAI. He serves as senior program chair in IJCAI 2019 and AAAI 2020, and area chair in ICCV 2019 and ECCV 2020.

个人主页：

http://xmhe.bitbucket.io

主持人：朱霖潮 (悉尼科技大学)

主持人简介：

朱霖潮，悉尼科技大学讲师。分别于浙江大学和悉尼科技大学获得本科与博士学位，2015年和2016年于卡内基梅隆大学访学。曾获得美国国家标准总局TRECVID比赛冠军，EPIC-Kitchens，THUMOS动作识别比赛冠军。2021年获Google Research Scholar奖（在机器感知领域仅有七个获奖者）。长期关注视频行为理解，无监督视频特征学习，元学习等。

个人主页：

ffmpbgrnn.github.io/

21-10期VALSE在线学术报告参与方式：

长按或扫描下方二维码，关注“VALSE”微信公众号 (valse_wechat)，后台回复“10期”，获取直播地址。

特别鸣谢本次Webinar主要组织者：

主办AC：朱霖潮 (悉尼科技大学)

协办AC：韩波 (香港浸会大学)

责任AC：刘日升 (大连理工大学)