20220112-02 总第266期 脉络分明：脉冲神经网络及其应用

报告嘉宾：余肇飞 (北京大学)

报告题目：脉冲神经网络学习理论与方法

报告嘉宾：张铁林 (中科院自动化所)

报告题目：类脑脉冲神经网络的局部自组织学习

报告嘉宾：张马路 (新加坡国立大学)

报告题目：基于脉冲神经网络的编码和算法

Panel嘉宾：

余肇飞 (北京大学)、张铁林 (中科院自动化所)、张马路 (电子科技大学)，张拳石 (上海交通大学)、张健 (北京大学)、徐迈 (北京航空航天大学)

Panel议题：

1. 相比于人工神经网络，脉冲神经网络的优势和缺点分别是什么？

2. 深层脉冲神经网络的训练难点在哪里？有什么可能的解决方法？

3. 从学术研究角度考虑，未来脉冲神经网络发展趋势是什么? 有哪些值得关注的研究方向？

4. 脉冲神经网络目前落地的情况如何？落地的难点在什么地方？

5. 通过ANN直接训练然后转换为SNN，和直接训练SNN相比，哪种性能更好 ？

6. ANN中也可以通过小环路来模拟局部的神经动力学，类似LIF模型，那么是不是说SNN是ANN一个子集？

*欢迎大家在下方留言提出主题相关问题，主持人和panel嘉宾会从中选择若干热度高的问题加入panel议题！

报告嘉宾：余肇飞 (北京大学)

报告时间：2022年1月12日 (星期三)晚上20:00 (北京时间)

报告题目：脉冲神经网络学习理论与方法

报告人简介：

余肇飞现任北京大学人工智能研究院研究员，博士生导师。主要研究方向为类脑计算、神经网络。在Cell Patterns、PloS Computational Biology、IEEE Transactions汇刊和NeurIPS、CVPR、ICCV、AAAI、IJCAI、INFOCOM等顶级会议上发表论文40余篇，主持科技部“脑科学与类脑研究”重大项目子课题、国家自然科学基金面上项目、博士后创新人才支持计划等项目，担任ACM MM、IJCAI、IJCNN等会议PC Member，曾获北京市科学技术奖二等奖。

个人主页：

http://scholar.pku.edu.cn/yuzhaofei

报告摘要：

脉冲神经网络 (Spiking Neural Network，SNN)被称为第三代人工神经网络，除神经元和突触状态之外，脉冲神经网络还包含了时间状态。相比于前二代人工神经网络，脉冲神经网络具有高生物仿真、低功耗、高效等特征。本报告将介绍脉冲神经网络的基本原理，分析当前研究现状与发展趋势，并结合课题组今年相关工作汇报脉冲神经网络学习理论与方法研究中的最新进展。

参考文献：

[1] Wei Fang, Zhaofei Yu, Yanqi Chen, Tiejun Huang, Timothee Masquelier, and Yonghong Tian. Deep Residual Learning in Spiking Neural Networks. NeurIPS, 2021.

[2] Wei Fang, Zhaofei Yu, Yanqi Chen, Timothee Masquelier, Tiejun Huang, and Yonghong Tian. Incorporating Learnable Membrane Time Constant to Enhance Learning of Spiking Neural Networks. ICCV, 2021.

[3] Yanqi Chen, Zhaofei Yu, Wei Fang, Tiejun Huang, Yonghong Tian. Pruning of Deep Spiking Neural Networks through Gradient Rewiring, IJCAI, 2021.

[4] Jianhao Ding , Zhaofei Yu , Yonghong Tian, Tiejun Huang. Optimal ANN-SNN Conversion for Fast and Accurate Inference in Deep Spiking Neural Networks, IJCAI, 2021.

[5] Tong Bu, Jianhao Ding, Zhaofei Yu, Tiejun Huang. Optimal Initialization of Membrane Potentials Leads to Expected Error-Free ANN-to-SNN Conversion, AAAI, 2022.

报告嘉宾：张铁林 (中科院自动化所)

报告时间：2022年1月12日 (星期三)晚上20:20 (北京时间)

报告题目：类脑脉冲神经网络的局部自组织学习

报告人简介：

张铁林，副研究员，中国科学院自动化研究所，类脑智能研究中心。研究领域为生物信息处理、类脑脉冲神经网络模型设计及应用等。从2013年开始类脑模型研究，在Science Advances、IEEE-TNNLS等Top期刊或AAAI、IJCAI等Top会议共发表论文约30余篇。

个人主页：

https://bii.ia.ac.cn/~tielin.zhang/

报告摘要：

经过了千百年的遗传进化，生物神经系统产生了多样的神经元类型、复杂的网络环路等，并组合表达出了极高的综合智能水平，这也正是现今AI领域所一直不懈努力但却未曾达到的目标。考虑到目前的人工智能，特别是深度学习算法，仍然面临学习能耗大、灵活性低、鲁棒性弱、通用性差等问题，进一步的通过生物启发来助力类脑认知计算，实现具有生物智能特色的人工智能新模型，将是一个可行的捷径。本次报告将从类脑计算模拟展开，然后对脉冲神经网络的局部自组织学习、全局结构投射、强化学习范式等进行介绍，并总结其在时空编码、多样节点类型、特异环路结构、生物合理优化等方面的计算优势。

参考文献：

[1] Tielin Zhang, Xiang Cheng, Shuncheng Jia, Mu-ming Poo, Yi Zeng, Bo Xu. Self-backpropagation of synaptic modifications elevates the efficiency of spiking and artificial neural networks. Science Advances. doi: 10.1126/sciadv.abh0146. 2021.

[2] Tielin Zhang, Shuncheng Jia, Xiang Cheng, and Bo Xu. Tuning Convolutional Spiking Neural Network With Biologically Plausible Reward Propagation. IEEE Transactions on Neural Networks and Learning Systems. doi: 10.1109/TNNLS.2021.3085966. 2021.

[3] Tielin Zhang, and Bo Xu. 脉冲神经网络研究现状及展望. 计算机学报. 2021.

报告嘉宾：张马路 (新加坡国立大学)

报告时间：2022年1月12日 (星期三)晚上20:40 (北京时间)

报告题目：基于脉冲神经网络的编码和算法

报告人简介：

张马路，电子科技大学和新加坡国立大学联合培养博士，新加坡国立大学博士后。长期从事类脑计算、机器学习、语音信号处理等领域的研究，迄今已在权威期刊IEEE TPAMI、IEEE TNNLS和会议AAAI等发表学术论文40余篇，担任神经科学知名期刊Frontiers in Neuroscience客座编辑以及AAAI-2022, ICASSP-2022, IJCNN-2021的程序委员会委员。

个人主页：

https://cde.nus.edu.sg/ece/2021/08/malu-zhang/

报告摘要：

脉冲神经网络 (Spiking Neural Networks)经常被誉为第三代人工神经网络，高度借鉴了生物神经元的信息处理机制，是神经科学和信息科学深入交叉融合的研究方向。不同于传统的人工神经网络，脉冲神经网络用离散的脉冲序列表征信息，具有丰富的时空动力学特性和强大的时序信息处理能力。此外，脉冲神经网络事件驱动的计算模式高度契合神经形态硬件的特性，具有实现超低功耗计算的强大优势。作为新兴的研究课题，围绕脉冲神经网络的编码理论、算法和模型设计虽然还处于探索阶段，但也取得了许多重要性成果。本报告将重点介绍近年来研究人员在脉冲神经网络的编码和算法上取得的成果。

参考文献：

[1] Towards artificial general intelligence with hybrid Tianjic chip architecture, Pei, Jing, Lei Deng, Sen Song, Mingguo Zhao, Youhui Zhang, Shuang Wu, Guanrui Wang et al, Nature, 2019.

[2] Self-backpropagation of synaptic modifications elevates the efficiency of spiking and artificial neural networks, Zhang, Tielin, Xiang Cheng, Shuncheng Jia, Mu-ming Poo, Yi Zeng, and Bo Xu, Science Advances, 2021.

[3] A highly effective and robust membrane potential-driven supervised learning method for spiking neurons, Zhang, Malu, Hong Qu, Ammar Belatreche, Yi Chen, and Zhang Yi, IEEE TNNLS, 2019.

[4] Rectified linear postsynaptic potential function for backpropagation in deep spiking neural networks, Zhang, Malu, Jiadong Wang, Jibin Wu, Ammar Belatreche et al., IEEE TNNLS, 2021.

[5] Progressive tandem learning for pattern recognition with deep spiking neural networks, Wu, Jibin, Chenglin Xu, Xiao Han, Daquan Zhou, Malu Zhang, Haizhou Li, and Kay Chen Tan. IEEE TPAMI, 2021.

[6] MPD-AL: an efficient membrane potential driven aggregate-label learning algorithm for spiking neurons, Zhang, Malu, Jibin Wu, Yansong Chua, Xiaoling Luo, Zihan Pan, Dan Liu, and Haizhou Li. In Proceedings of the AAAI Conference on Artificial Intelligence, 2019.

Panel嘉宾：张拳石 (上海交通大学)

嘉宾简介：

张拳石，上海交通大学约翰霍普克罗夫特计算机科学中心长聘教轨副教授，博士生导师，入选国家级海外高层次人才引进计划，获ACM China新星奖。他于2014年获得日本东京大学博士学位，于2014-2018年在加州大学洛杉矶分校 (UCLA)从事博士后研究，主要研究方向包括机器学习和计算机视觉。其研究工作主要发表在计算机视觉、人工智能、机器学习等不同领域的顶级期刊和会议上 (包括IEEE T-PAMI、ICML、ICLR、CVPR、ICCV、AAAI、KDD、ICRA等)。近年来，张拳石在神经网络可解释性方向取得了多项具有国际影响力的创新性成果。张拳石承担了ICPR 2020的领域主席，CCF-A类会议IJCAI 2020和IJCAI 2021的可解释性方向的Tutorial，并先后担任了AAAI 2019, CVPR 2019, ICML 2021大会可解释性方向的分论坛主席。

个人主页：

http://qszhang.com/

Panel嘉宾：张健 (北京大学)

嘉宾简介：

张健，博士，北京大学深圳研究生院助理教授/副研究员、博士生导师，深圳市海外高层次人才。哈尔滨工业大学数学与应用数学理学学士、计算机科学与技术工学硕士及计算机应用工学博士，并分别在北京大学、香港科技大学和沙特国王科技大学做博士后研究。主要从事视频图像处理与计算机视觉方面的基础理论和应用研究，相关研究成果在高水平国际期刊IEEE TIP/JSTSP/TMM/TOC/TCI、ACM TOG和高水平国际会议CVPR/ICCV/AAAI/IJCAI/ACMMM/DCC等发表SCI/EI检索论文80余篇。个人Google学术检索引用3千余次，其中单篇一作最高引用5百余次。曾获国际会议VCIP2011最佳论文奖、VCIP2015最佳学生论文奖、国际期刊IEEE MultiMedia2018最佳论文奖、入选人工智能与图像处理领域2020年全球前2%顶尖科学家“年度影响力”榜单。

个人主页：

https://jianzhang.tech/

Panel嘉宾：徐迈 (北京航空航天大学)

嘉宾简介：

徐迈，教育部长江学者特聘教授，中国图象图形学学会青工委副主任。近五年，以第一/通讯作者在IJCV、IEEE TPAMI、JSAC、TIP、TMI、JSTSP、TCSVT等国际顶级期刊及CVPR、ICCV、ECCV、AAAI、DCC、ACM MM等顶级会议上发表论文100余篇 (均为SCI/EI检索)，其中SCI检索60+篇 (JCR1区50+篇，IEEE期刊论文40+篇)；近五年，谷歌引用3千余次，SCI他引千余次，多篇论文入选ESI高被引论文/热点论文。获IEEE国际会议/期刊最佳论文奖4项、提名奖2项。担任图像处理领域顶级期刊IEEE TIP编委 (Associate Editor)、IEEE TMM编委 (Associate Editor)、信号处理领域权威期刊IEEE J-STSP的首席客座编委 (Lead Guest Editor)。作为负责人承担科研项目20余项，包括国家自然科学基金首批原创探索项目、优青项目、面上项目、青年项目，北京市杰青项目、军委科技委创新特区项目、863项目。曾入选教育部青年长江学者，获教育部霍英东基金、中国电子学会优秀科技工作者、中国计算机学会杰出演讲者荣誉。研究成果获中国人工智能学会技术发明一等奖 (第二完成人)、教育部技术发明一等奖 (第一完成人)。 

个人主页：

http://www.buaamc2.net/

主持人：邓欣 (北京航空航天大学)

主持人简介：

邓欣，北京航空航天大学“卓越百人”计划副研究员，分别于2013年和2016年获北京航空航天大学学士与硕士学位，2020年获伦敦帝国理工学院博士学位。长期致力于多模态图像处理和可解释性神经网络方向的研究工作，取得了重要理论和技术突破。在人工智能顶级期刊TPAMI、图像处理顶级期刊TIP、计算机视觉顶级会议ICCV、CVPR、ECCV等发表论文30篇，包含ICCV Oral、CVPR Oral以及一篇ESI高被引论文，SCI他引487次。关于“可解释性多模态图像处理”的研究工作获伦敦帝国理工学院Eryl Cadwallader Davies Prize (优秀博士论文奖)，每年仅1-2人获奖。获中国图象图形学学会2021年石青云女科学家奖 (青英组)。担任IEEE TPAMI、TIP、TIT、JSTSP等国际知名期刊审稿人。

特别鸣谢本次Webinar主要组织者：

主办AC：邓欣 (北京航空航天大学)

协办AC：张健 (北京大学)

张铁林 [slide]

张马路 [slide]