PDF 物理页索引 2130
文件中的第 2131 页 · 印刷页码:未识别
PDF 物理页索引 2131
文件中的第 2132 页 · 印刷页码:未识别
在机器学习中,谁拥有最多的数据,谁就是赢家,显然Facebook所拥有的关于人们点赞、好友和照片的数据让其他人只能望其项背。利用所有这些数据,Facebook可以创建我们的心智理论,并用它来预测我们的偏好和政治倾向,甚至有一天可能会比我们更了解我们自己。Facebook有朝一日会成为奥威尔小说中老大哥的化身吗?<sup>[6]</sup>你会觉得这是一个令人不寒而栗的前景,还是发现有一个能满足你需求的数字管家很方便?我们可能会问Facebook是否应该拥有这种权力,但在这个问题上我们也许并没有多少发言权。
尽管我们在太浩湖的赌场举办了2012年和2013年的NIPS大会,但与会者都避开了赌桌。他们知道赌场庄家获胜的可能性更大,更何况,他们正在做的事情比赌博更令人兴奋。赌博会让人上瘾,那是因为多巴胺奖励预测误差系统是我们大脑的一部分(在第10章中讨论过)。赌场已经优化了有利于博彩的条件:获得巨大回报的允诺;随机间隔的偶然小胜(奖励)——研究已经证明,这是保持实验室老鼠不停按下食物按钮的最佳方式;在老虎机上获胜时触发的声音和灯光;全天昏暗的灯光,将由光线驱动的昼夜节律与正常的日夜更替分开,怂恿你下注。不过从长远来看,庄家显然赢得更多。
在蒙特利尔召开的2015年NIPS大会上,3800名国际与会者拥入了蒙特利尔会议中心。会议开场时的深度学习课程环节非常受欢迎,导致人满为患。出于防火安全方面的考虑,我们不得不遣散了一些人。高科技行业中几乎所有拥有大数据的公司都采用了深度学习技术,这一趋势正在以更快的速度扩散。在巴塞罗那举行的2016年NIPS大会开始前两周,我们将与会人数限制在5400名。一个从纽约飞来的人很失望地发现他无法在现场注册。2017年在长滩举行的NIPS大会在注册开放12天后就限制注册了,与会者达到了8000人。如果自2014年以来,每年出席会议的人数按50% 的增速持续下去,那么最终地球上的每个人都会想参加NIPS大会。当然,泡沫最终会破裂,但是与大多数泡沫一样,没有人知道这事儿什么时候会发生。
PDF 物理页索引 2132
文件中的第 2133 页 · 印刷页码:未识别
来自科学和工程部门的许多研究人员继续聚集在NIPS大会上,30年来年年如此。不过,在巴塞罗那举行的2016年NIPS大会上,5400名与会者中有40% 的人是第一次参加会议。在2016年之前,NIPS基金董事会都明智地决定让会议保持在单一会场举行,这对于大型会议来说很少见。其背后的初衷,是让每个人都能坐在同一个房间里,防止场地分散化。但在2016年,单一会场变成了双会场,因为很难再找到足够大的房间装下所有人。尽管如此,这也远远少于大多数其他大型会议中常见的10个会场。NIPS的文章接受率一直保持在20%左右,低于大多数期刊的接受率。NIPS在2016年举办了“机器学习中的女性”(Women in Machine Learning,简称WiML)会议,<sup>[7]</sup>为巴塞罗那带来近600名女性与会者(占与会者总人数的10%),有1000名女性参加了2017年在长滩举行的会议。多样性继续成为NIPS大会的标志。没有任何一个领域能够独立汇集创造了深度学习的多样化人才。
也许让人感到意外的是,虽然具备了影响如此多行业的潜力,保护深度学习知识产权的专利却很少。在20世纪80年代,我们希望能让学习算法成为一个新的科学领域的基础,同时认为获得专利对此起不到什么积极的作用。毫无疑问,现在很多公司已经为深度学习的特殊应用提交了专利,因为公司不会在没有保护的情况下对新技术进行大规模投资。
为未来做准备
神经网络学习的重大突破每30年就会发生一次,从20世纪50年代引入感知器开始,到20世纪80年代学习多层感知器算法,再到2010年开始兴起深度学习。其中每个阶段都经历了一段繁荣期,在短时间内取得了飞跃性的进展,随后便是较长时期的缓慢发展。但是其中一个不同点在于,随着每次复兴,兴盛时期的影响一直有增无减。最新的增长动力来源于大数据的普及,而NIPS的故事早就为这一天的到来做好了准备。
PDF 物理页索引 2133
文件中的第 2134 页 · 印刷页码:未识别
[1] NIPS会议中的所有文章都可以在网络上获取:https://nips.cc/。
[2] 为了体验生物学家的行话,请参考从最近的一篇科学综述中随机抽取的这句话:“少突胶质细胞包含多种抑制轴突再生的蛋白质,包括髓磷脂相关糖蛋白,神经突生长抑制剂‘Nogo’ ,少突胶质细胞髓鞘糖蛋白和信号素”。(“Oligodendrocytes present avariety of proteins inhibitory to axon regrowth,including myelin-associatedglycoprotein, the neurite-outgrowth inhibitor ‘Nogo,’oligodendrocyte-myelin glycoprotein, and semaphorins.”)B. Laha, B. K. Stafford,and A. D.Huberman, “Regenerating Optic Pathways from the Eye to the Brain,”Science356, no. 6342 (2017): 1032.
[3] 这位神经学家是霍华德·瓦克特尔(Howard Wachtel),他当时正在科罗拉多大学波尔德分校研究海兔的神经系统。
[4] Engaged一词既有“订婚”之意,也有“致力于做……”之意。——译者注
[5] Krizhevsky, Sutskever, and Hinton, “ImageNet Classification with Deep Convolutional Neural Networks.”
[6] George Orwell, Nineteen Eighty-Four(London: Secker & Warburg, 1949).这本书最近有了新的含义。
[7] “机器学习中的女性”(Women in Machine Learning)这一组织成立于2006年,为 机 器 学 习 领 域 的 女 性 创 造 了 机 会 , 并 推 动 了 她 们 的 研 究 。 请 参 阅http://wimlworkshop.org。
PDF 物理页索引 2134
文件中的第 2135 页 · 印刷页码:未识别
第人智
PDF 物理页索引 2135
文件中的第 2136 页 · 印刷页码:未识别
百能与未来
PDF 物理页索引 2136
文件中的第 2137 页 · 印刷页码:未识别
PDF 物理页索引 2137
文件中的第 2138 页 · 印刷页码:未识别
要事年表
1971年
诺姆·乔姆斯基(Noam Chomsky)在《纽约书评》杂志上发表了《针对斯金纳的驳斥》(The Case against B. F. Skinner)一文,这篇长文诱导一代认知科学家偏离了对学习行为的研究。
1982年
克劳德·香农(Claude Shannon)出版了开创性的书籍《通信的数学理论》(A Mathematica l Theor<sub>y</sub> of Communication),该书为当代数字通信技术奠定了基础。
1989年
卡弗·米德(Carver Mead)出版了著作《模拟大规模集成电路和神经系统》 (Ana lo<sub>g</sub> VLSI and Neura l S<sub>y</sub>stems),开创了基于仿生芯片的神经形态工程(neuromorphic engineering)研究领域。
2002年
斯蒂芬·沃尔夫勒姆(Stephen Wolfram)出版了书籍《一种新的科学》(A New Kind of Science)。这本书探究了细胞自动机(cellular automata)的计算能力,这些算法比神经网络更简单,但是仍能完成强大的运算。
2005年
塞巴斯蒂安·特隆的团队赢得了DARPA自动驾驶汽车大赛。
2008年
托拜厄斯·德尔布吕克(Tobias Delbrück)研发了一种非常成功的脉冲视网膜芯片“动态视觉传感器”(Dynamic Vision Sensor,简称DVS),这种传感器采用异步峰值,而不是像现在的数字摄像机利用同步帧进行图像捕获。
PDF 物理页索引 2138
文件中的第 2139 页 · 印刷页码:未识别
2013年
白宫宣布启动美国“BRAIN计划”,开发创新的神经技术,以加速我们对大脑功能的理解。
PDF 物理页索引 2139
文件中的第 2140 页 · 印刷页码:12
智能时代
认知计算的时代即将到来。很快我们就会拥有比人类驾驶技术更高超的自动驾驶汽车。我们的房子会识别出我们的身份,预见我们的习惯,有客人到访时会提醒我们。最近被谷歌收购的众包网站Kaggle,曾经举办过一次奖金为100万美元的用CT扫描图进行肺癌检测的竞赛,它还为美国国土安全部举办了一场奖金达150万美元的竞赛,希望寻找到能在机场安检时检测出藏匿物的技术。<sup>[1]</sup> 通过认知计算,医生的助理将有能力诊断罕见疾病,提高整体医疗水平。我们已经有了数千个这样的应用,将来还会出现更多类似的应用。有些工作会被淘汰,有些则将被创造出来。尽管认知计算技术十分具有颠覆性,我们的社会还需要时间来吸收和适应,但它对人类来说并不构成生存威胁。相反,我们正在进入一个发现和启蒙的时代,我们会变得更聪明,更长寿,人类文明也会变得更加繁荣。
2015年,我曾在由IBM赞助的旧金山认知计算会议上发表演讲。<sup>[2]</sup>IBM当时正在对沃森(Watson)项目进行大规模投资,沃森是一个基于大量事实数据库集合的程序,覆盖信息的范围从历史到流行文化,包罗万象,可以使用自然语言接口的各种算法进行查询。肯·詹宁斯(Ken Jennings)曾经连续192天在74场智力竞赛节目《危险边缘》(Jeopardy!)中赢得了胜利,这是该游戏节目历史上最长的连胜纪录。2011年,沃森在该节目中击败了詹宁斯,该事件引起了全世界的注意。
12