7.1.1 深度学习为何崛起
深度学习并不是新兴理论,早在几十年前,深度学习和神经网络的基本理念就已经比较完备了。关于深度学习之所以现在才开始流行的原因,我们先来看图7-2。
模型能达到好的效果,背后是数据、计算力和算法在支持。深度学习之所以最近火起来,数据量的增加、计算力的提升和算法的进步都为之做出了贡献。但从图7-2可以看出,数据量的增加是最主要的因素。模型的表现力随着数据量的增加而提升,这是毋庸置疑的。但在数据量比较少的时候,神经网络模型相比传统的学习算法没有明显的优势,只有当训练集很大时,神经网络的效果才会比传统算法更好。所以,随着近些年数据接触量爆炸式增加,深度学习的优势越来越明显。
7.1.2 从逻辑回归到浅层神经网络
我们知道,深度学习主要指多层神经网络,让我们先来了解一下什么是神经网络。神经网络并没有听起来那么高深,其本质上也属于机器学习的一种模型,就像前几章介绍的常见模型一样。
还记得逻辑回归模型吗?这是我们在第6章介绍过的一种分类器。逻辑回归模型将输入变量按一定权重线性组合求和,然后对得到的值施加一个名为sigmoid的函数变换,即 $\ g ( z ) =$
人工智能与大数据技术导论
194