解应春BW 发表于 2017-6-13 14:38:19

机器学习日报 2017-06-10 引入缩放指数线性单元(SELUs)的自规范化神经网络(SNNs)

机器学习日报 2017-06-10
[*]深度探索 LSTMs @网路冷眼
[*]可变形卷积网络:计算机新 “视” 界 @开发者头条
[*]Quora重复问题检测竞赛前12%方案 @爱可可-爱生活
[*]LSTM在线交互式可视化 @妖僧老冯_
[*]引入缩放指数线性单元(SELUs)的自规范化神经网络(SNNs) @爱可可-爱生活

@好东西传送门 出品,由@AI100运营, 过往目录 见http://ml.memect.com

订阅:关注微信公众号 AI100(ID:rgznai100,扫二维码),回复“机器学习日报”,加你进日报群
http://memect-public.oss-cn-hangzhou.aliyuncs.com/images/AI100_logo.png
邮件版包括14条,本期的Web版有完整内容19条
用日报搜索找到以前分享的内容: http://ml.memect.com/search/今日焦点 (5)
http://tva2.sinaimg.cn/crop.0.0.180.180.50/663aa05ajw1e8qgp5bmzyj2050050aa8.jpg 网路冷眼 网页链接 2017-06-10 23:00
经验总结 深度学习 算法 博客 神经网络
【Exploring LSTMs】http://t.cn/RSfZJIO 探索LSTM。事实证明,LSTMs是对神经网络的一个相当简单的扩展,而且它们在过去几年里已经取得了很多惊人的成就。 所以本文会尝试尽可能直观地呈现它们 - 这样你就可以自己发现它们了。 ​
http://wx3.sinaimg.cn/large/663aa05agy1fgg6jeqd2nj20sl09cwf0.jpg



http://tva2.sinaimg.cn/crop.0.0.1022.1022.50/005Fj2RDgw1ex5pinpg65j30sg0sgdg9.jpg 开发者头条 网页链接 2017-06-10 17:40
深度学习
可变形卷积网络:计算机新 “视” 界 http://t.cn/RSRSBoj by @微软亚洲研究院 分享自 @figo 开通的独家号《深度学习杂货铺》 http://t.cn/RSGRKwW (想看更多?下载 @开发者头条 App:http://t.cn/RJyDMlJ ) ​
http://wx2.sinaimg.cn/large/005Fj2RDgy1fgg772q6cqj30c82pmx2q.jpg



http://tva2.sinaimg.cn/crop.10.34.646.646.50/5396ee05jw1ena6co8qiwj20sg0izjxd.jpg 爱可可-爱生活 网页链接 2017-06-10 15:24
Kaggle 数据科学
【Quora重复问题检测竞赛前12%方案】《Identifying duplicate questions on Quora | Top 12% on Kaggle!》by Shubhankar Srivastava http://t.cn/RSRtH1f pdf:http://t.cn/RSRtH1t ​
http://wx2.sinaimg.cn/large/5396ee05ly1fgg4uqblzgj20gq0d4q6d.jpg



http://tvax1.sinaimg.cn/crop.0.12.1242.1242.50/87c2cce0ly8ffoem4a4aqj20yi0z643d.jpg 妖僧老冯_ 网页链接 2017-06-10 10:41
经验总结 深度学习 Edwin Chen 博客 可视化 刘世霞
LSTM在线交互式可视化by Edwin Chen 地址: http://t.cn/RSfZJIp 恕我直言,目前在ML/DL领域的有影响的可视分析的工作大部分不是做可视化的人做的。。。(Vis community的刘世霞老师好像做过一个visCNN,不过感觉目前不是特别好用,关注点需要继续交叉融合。 ) ​




http://tva2.sinaimg.cn/crop.10.34.646.646.50/5396ee05jw1ena6co8qiwj20sg0izjxd.jpg 爱可可-爱生活 网页链接 2017-06-10 04:55
算法 Johannes Kepler 论文 神经网络
《Self-Normalizing Neural Networks》G Klambauer, T Unterthiner, A Mayr, S Hochreiter (2017) http://t.cn/RS84Xvr ​
http://wx4.sinaimg.cn/large/5396ee05ly1fgfmo6dyj1j213e106n7e.jpg



最新动态
http://tva2.sinaimg.cn/crop.10.34.646.646.50/5396ee05jw1ena6co8qiwj20sg0izjxd.jpg 爱可可-爱生活 网页链接 2017-06-10 15:18
经验总结 深度学习 算法 博客 神经网络
【Uber基于RNN的极端事件预测】《Engineering Extreme Event Forecasting at Uber with Recurrent Neural Networks | Uber Engineering Blog》by Nikolay Laptev, Slawek Smyl, Santhosh Shanmugamhttp://t.cn/RSR5mki pdf:http://t.cn/RSR5mkJ ​
http://wx1.sinaimg.cn/large/5396ee05ly1fgg4opu0vuj20sg0c4djh.jpg



http://tva2.sinaimg.cn/crop.0.0.180.180.50/68d45f57jw1e8qgp5bmzyj2050050aa8.jpg 外刊IT评论 网页链接 2017-06-10 15:14
Jim Gray
【Bug的类型】美国计算机科学家、图灵奖获得者詹姆斯·尼古拉·格雷(Jim Gray),在他的著名的论文中首次提出了程序bug的类型,比如玻尔bug(Bohrbug)、 海森堡bug(Bohrbug)等用著名科学家名称命名的bug。后来又出现了更多的bug类型。现在,让我们来看看它们都是什么bug类型。 http://t.cn/Rxu3Df8 ​
http://wx2.sinaimg.cn/large/68d45f57ly1fgg4ljuylzj21400m8n18.jpg



http://tva4.sinaimg.cn/crop.101.0.209.209.50/6d1b7657gw1egydt9et5qj20a405u74v.jpg 龙星镖局 网页链接 2017-06-10 12:33
深度学习 自然语言处理 Yann Lecun Yoav Goldberg
从Yoav Goldberg与Yann LeCun争论,看当今的深度学习、NLP与arXiv风气。作者说得有理有据,比一般人(主要是我这样菜鸟)只会抱怨现象要强很多。学习膜拜!http://t.cn/RS8rzT3 ​
http://wx4.sinaimg.cn/large/6d1b7657ly1fgfzy7nr43j20u01fd11n.jpg

于小洋是少年啦 网页链接 转发于2017-06-10 12:50
立旗子占山头,是学界市场设计下理性人的正常逐利策略。1.影响力是学界的通用效用,而占山头是成本最低的、又不可能被机制设计阻止的提高影响力的方法;2.标题是决定论文影响力的关键属性,连其长短都显著的影响了影响力,理性人总会去发展最优投机标题设计技术。有趣的问题是,存在解决的机制设计么?



http://tva3.sinaimg.cn/crop.0.0.512.512.50/005INCKHjw8ezyidk5kv4j30e80e8aaa.jpg 湾区日报BayArea 网页链接 2017-06-10 11:57
深度学习
【人工智能入门知识】啥是 AI?Deep learning 原理?为啥 AI 很重要?为啥 AI 最近火了起来?AI 下一步如何发展? | 简评:http://t.cn/RIoLlLX 原链:http://t.cn/RIoLlLi #湾区日报# ​




http://tva1.sinaimg.cn/crop.0.43.550.550.50/64009a5ajw8f71g6ph8tdj20go0gowfe.jpg 巨浪君看科技 网页链接 2017-06-10 10:14
应用 机器人
#科技与生活# 周末的早晨,是不是想起床后有人已经做好了早餐?吃完饭后又懒得洗碗?这款叫Moley Robotics的机器人表示它可以搞定这一切,人类只需要在那个区域做一遍示教,机器人便会模仿所有的动作。做完后机器人还能自动清理案台,你需要做的就是点菜而已。 http://t.cn/RS8CICQ ​




http://tva3.sinaimg.cn/crop.0.0.180.180.50/bdb9b651jw1e8qgp5bmzyj2050050aa8.jpg 算法组 网页链接 2017-06-10 09:32
算法 集成学习
讲的很细『数据挖掘算法(logistic回归,随机森林,GBDT和xgboost)-科技频道-手机搜狐』http://t.cn/R62PGWL ​




http://tva1.sinaimg.cn/crop.0.110.440.440.50/62caff97jw8e9la9x3lcbj20c80ict9r.jpg 王威廉 网页链接 2017-06-10 06:51
深度学习 自然语言处理 Yann Lecun Yoav Goldberg
脸书人工智能实验室主任Yann LeCun批评了Yoav Goldberg的批评,并称Y的评价是自卫式的,Y本身就是把DL应用到NLP上的人,怎好意思说"for fucks sake, DL people, leave language alone and stop saying you solve it"?Yann进一步分析了arxiv的模式以及挖坑占坑现象。 ​
http://wx4.sinaimg.cn/large/62caff97ly1fgfpyqwp3rj20r60o6gsn.jpg

asker2 网页链接 转发于2017-06-10 07:29
yann lecun有点想当然了,那种类比不成立。如yoav所说,基于lstm的模型产生的文本效果要好的多得多,对抗学习在这个具体的paper里只是噱头。不过看来yoav的话让他回想起过去被cv界拒绝的创伤经历。所以喷人时用词过重有危险,因为路过的大佬可能对号入座 [允悲]

Bishop_Gorov 网页链接 转发于2017-06-10 12:23
虽然早就能预料到这样的反驳方式,还是想为yoav说一句:同样dl的技术,用在不同人手里大有不同。w2v火的那几年yoav的paper别的不说,就他们的conll best paper,我当时看了poster就逢人便感叹即使不谈智商和努力,就只他的黑客精神就让我望尘莫及。。。

刘知远THU 网页链接 转发于2017-06-10 12:26
我的感受是,LeCun成功地将这次争论导向为两个群体的对立,这不见得是什么好事。实际Yoav更多批评的是DL风潮带来的overclaim和flag-planting的风气。

yangjiera 网页链接 转发于2017-06-10 13:49回复 @刘知远THU “我的感受是,LeCun成功地将这次争...”
也不是对立,lecun只是把它放在更高的一个抽象层次来描述,不管是两个群体还是集市与教堂。他的描述方式其实是理论派的方式。不过对问题本身有多大帮助并不好说。



http://tva2.sinaimg.cn/crop.10.34.646.646.50/5396ee05jw1ena6co8qiwj20sg0izjxd.jpg 爱可可-爱生活 网页链接 2017-06-10 05:34
算法 代码 论文 凸优化
《Improving Variational Auto-Encoders using convex combination linear Inverse Autoregressive Flow》J M. Tomczak, M Welling (2017) http://t.cn/RS8bJDtGitHub:http://t.cn/RS8bJD5 ​
http://wx3.sinaimg.cn/large/5396ee05ly1fgfnts9yfgj20ng0kwn0e.jpg



http://tva2.sinaimg.cn/crop.10.34.646.646.50/5396ee05jw1ena6co8qiwj20sg0izjxd.jpg 爱可可-爱生活 网页链接 2017-06-10 05:27
算法 代码 论文 神经网络
《Forward Thinking: Building and Training Neural Networks One Layer at a Time》C Hettinger, T Christensen, B Ehlert, J Humpherys, T Jarvis, S Wade (2017) http://t.cn/RS8bGcmGitHub:http://t.cn/Rak81Yv ​
http://wx4.sinaimg.cn/large/5396ee05ly1fgfnmynscqj21280jotdk.jpg



页: [1]
查看完整版本: 机器学习日报 2017-06-10 引入缩放指数线性单元(SELUs)的自规范化神经网络(SNNs)