lambda是一个系数，也叫regularizationrate（正则率）。这代表我们对获取正确样本（越正确，训练误差越小，越拟合）与简化模型的关注程度之比，增加lambda值则会加强正则化效果。一般而言，如果我们有大量的训练数据，训练数据和测试数据看起来一致，并且统计情况呈现独立同分布，那么可能不需要进行多少正则化。如果训练数据不多，或者训练数据与测试数据有所不同，那么可能需要进行大量正则化。我们可能需要利用交叉验证，或使用单独的测试集进行调整。
如果lambda过高，那么模型相对简单，这时会发生欠拟合数据的风险。如果lambda过低，那么模型可能变得过于复杂，这时会发生过拟合数据的风险。这时，模型过于拟合训练数据，但不能泛化到新的数据上。最理想的lambda的值是使得模型能够良好地泛化到新数据上。当然，理想值是依赖于数据的，需要多次调试来获得。总之，正则化主要是用来降低过拟合的，减少过拟合的其他方法有增加训练集数量等。对于数据集有限的情况，防止过拟合就是降低模型的复杂度，这就是正则化。
9.3 逻辑回归
逻辑回归（LogisticRegression，LR）模型其实仅在线性回归的基础上套用了一个逻辑函数，但也由于这个逻辑函数，使得逻辑回归模型成为机器学习领域一颗耀眼的明星。在回归模型中，y是一个定性变量，比如y=0或1，逻辑回归主要应用于研究某些事件发生的概率。比如，如何预测硬币抛出后硬币正面朝上的概率？概率为0到1之间的值。这就是逻辑回归。这是一种非常实用的预测方法，我们经常将这种方法映射到分类任务上，比如想确定某封电子邮件是否是垃圾邮件。总的来说，逻辑回归的用途如下。
●预测：根据模型，预测在不同自变量的情况下，发生某种疾病或某种情况的概率有多大。
判别：实际上跟预测有些类似，也是根据模型，判断某人属于某种疾病或属于某种情况的概率有多大，也就是看一下这个人有多大的可能性属于某种疾病或某种情况。
逻辑回归分析非常有用。以胃癌病情分析为例，选择两组人群，一组是胃癌组，另一组是非胃癌组，两组人群必定具有不同的体征与生活方式等。因此，因变量就为是否患有胃癌，值为“是”或“否”，自变量就可以包括很多了，如年龄、性别、饮食习惯、幽门螺杆菌感染等。自变量既可以是连续的，也可以是分类的。然后通过逻辑回归分析，可以得到自变量的权重，从而可以大致了解到底哪些因素是导致胃癌的危险因素。同时，通过该权值可以根据危险因素预测一个人患癌症的可能性。
逻辑回归中的逻辑函数（或称为Sigmoid函数）的形式为：
$$
y = { \frac { 1 } { 1 + e ^ { - z } } }
$$
它对应的图形如图9-10所示。
人工智能与大数据技术导论
276