机器学习日报 2016-06-21 梯度下降优化算法综述;国际机器学习大会（ICML）第一天Paper精选

解应春BW

机器学习日报 2016-06-21

• ICML 2016最具时间价值奖和最佳论文奖出炉，DeepMind独揽一半奖项 @爱可可-爱生活
• 前沿｜Yann LeCun 谈对抗性网络：如何让机器掌握常识？ @孟龙恒旭xu
• 深度学习教父Hinton专访，AI已跨越重要分水岭 @龙星镖局
• 梯度下降优化算法综述 @网路冷眼
• 国际机器学习大会（ICML）第一天Paper精选 @数盟社区
  

@好东西传送门 出品, 过往目录 见http://ml.memect.com

订阅：给 hao@memect.com 发封空信， 标题: 订阅机器学习日报  

邮件版包括19条，本期的Web版有完整内容26条

用日报搜索找到以前分享的内容： http://ml.memect.com/search/

今日焦点 (5)
爱可可-爱生活   网页链接 2016-06-21 21:19
会议活动 深度学习 ICML 会议
《ICML 2016最具时间价值奖和最佳论文奖出炉，DeepMind独揽一半奖项》via:@机器之心syncedhttp://t.cn/R5p54tB

孟龙恒旭xu   网页链接 2016-06-21 23:48
深度学习 Yann Lecun
『前沿｜Yann LeCun 谈对抗性网络：如何让机器掌握常识？』http://t.cn/R5p5Ifm




龙星镖局   网页链接 2016-06-21 23:44
深度学习 Geoffrey Hinton
深度学习教父Hinton专访，AI已跨越重要分水岭 http://t.cn/R5pam93




网路冷眼   网页链接 2016-06-21 23:08
算法
【An overview of gradient descent optimization algorithms】http://t.cn/R48UzzG 梯度下降优化算法综述。文章很长，请先马后看！[doge]

数盟社区   网页链接 2016-06-21 10:01
会议活动 ICML 会议
国际机器学习大会（ICML）第一天Paper精选 http://t.cn/R5NKvNS

最新动态
王威廉   网页链接 2016-06-21 22:55
会议活动 资源 ICML 会议 视频
机器学习顶级会议ICML2016直播地址：http://t.cn/R5pi4uM




新智元   网页链接 2016-06-21 21:24
深度学习 Geoffrey Hinton 行业动态
【新智元导读】《福布斯》昨日刊登Geoff Hinton专访。游走在学术和产业的AI大神Hinton谈到了自己研究兴趣的起源、在多伦多大学和谷歌所做的研究工作以及发起的私人俱乐部 NCAP。 在采访中，Hinton谈到，现在计算能力和数据的发展让AI获得巨大进步，并且在很多领域得到应用，这也让他从一个AI的“狂热分...全文： http://m.weibo.cn/5703921756/3988917441497511




爱可可-爱生活   网页链接 2016-06-21 21:13
深度学习 算法 资源 Andrew Ng 集成学习 决策树 课程 刘昊 强化学习 神经网络 书籍
爱可可老师24小时热门分享：1、Andrew Ng 新书 Machine Learning Yearning 2、中科院计算所博士生刘昊淼为大家带来的深度哈希学习算法介绍 3、《Tutorial: Deep Reinforcement Learning》4、《决策树与迭代决策树（GBDT）》5、【论文:像素循环神经网络(PixelRNN)】…… http://t.cn/R5pqmCC




_散沙_Python玩家_   网页链接 2016-06-21 19:14
深度学习 Brendan Frey
来自多伦多大学教授的Brendan Frey，同时也是深度基因创始人的访谈，带你了解深度学习应用于基因工程的最新进展。 http://t.cn/R2W6HL4




老师木   网页链接 2016-06-21 18:37
深度学习 算法 神经网络 正则表达式
不得不说，现在搞神经网络的，并没有推进多少。CNN这种前馈网络能力和局限性很早以前都被认识清楚了，RNN这种所谓带有限 memory 的的网络也是。拿数字逻辑类比，前者对应着combinational logic, 后者对应着sequential logic ，即使是后者，也仅仅能识别正则表达式，能力等同finite state automata。


老师木 网页链接 转发于2016-06-21 18:44
而regular expression 之上还有context free grammar。。有趣的是，正则表达式的概念就来源于50年代kleene 刻画一类神经网络（不带环前馈，带环递归）表达能力的研究。chomsky 研究context free grammar 表达能力时，没用正则表达式的概念，而是用马尔可夫模型，以后的研究都用正则表达式，二者等价。

老师木 网页链接 转发于2016-06-21 18:59
前馈网络可以类比析取范式。计算学习理论较早就刻画清楚它们的能力和计算复杂度，学习一个正则语言的模型有多难呢，和破解RSA系统一样困难。RNN也就是正则表达式的水平，而且现在只是结构确定只改变参数。



算法组   网页链接 2016-06-21 18:31
深度学习
『深度学习应用在哪些领域让你觉得 “我去，这也能行！”？ - 知乎』http://t.cn/R5pPOal




FacePlusPlus   网页链接 2016-06-21 15:34
算法
语义分割的常用数据集和算法你都了解吗？听Megvii Researchers 乱弹【语义分割】(Semantic Segmentation) - 今日头条(TouTiao.com) http://t.cn/R5NDY7s

Datartisan   网页链接 2016-06-21 14:45
R语言
[数析学院] 记录查重与去重http://t.cn/R5Ng59X好东西传送门 @爱可可-爱生活 @西瓜大丸子汤 @数据挖掘研究院 @数据挖掘与数据分析 #R语言#




王威廉   网页链接 2016-06-21 13:22
会议活动 深度学习 ICML 代码 行业动态 会议
百度在ICML最新开源的Persistent RNN代码：http://t.cn/R5NJ4ND

洪亮劼   网页链接 2016-06-21 12:37
会议活动 算法 自然语言处理 David Blei ICML 会议 主题模型
David Blei的论文Dynamic Topic Model夺得ICML 2016的Test of Time Award。文章拥有1100+的引用，是曾经研习Topic Model的人们所必读的作品。文章的主要思想非常直观，就是LDA嫁接State Space Model。这个基本思想成为了之后无数模型的基石。另外，David Blei的研究不跟风，长期专注于自己的一套东西。




爱可可-爱生活   网页链接 2016-06-21 12:21
算法 代码 主题模型
'Light LDA - Modified based on MSR's Light LDA, added preprocessing scripts' by Yuntian GitHub:http://t.cn/R5N8oNL




199IT-互联网数据中心   网页链接 2016-06-21 10:30
深度学习 资源 幻灯片
【DeepMind创始人讲座：深度增强学习–64页ppt（附下载）】http://t.cn/R5NbaMV

洪亮劼   网页链接 2016-06-21 09:39
自然语言处理 问答系统
今天我们来看一篇文章，讲Facebook AI Research推出的用于做QA系统的Memory Networks如何应用到End-to-End的，基于Goal的对话系统中，有怎样的效果。这篇文章对于研究对话系统的学者来说，是不可多得草考资料。 http://t.cn/R5NKP0i




爱可可-爱生活   网页链接 2016-06-21 06:02
会议活动 深度学习 算法 ICML 会议 论文 强化学习
《Dueling Network Architectures for Deep Reinforcement Learning》Z Wang, T Schaul, M Hessel, H v Hasselt, M Lanctot, N d Freitas [Google DeepMind] (ICML 2016 Best paper) http://t.cn/RUB6kc3