有了能够自动逐层提取特征的深度学习的加入,机器学处理问题的视野一下子就拓宽了很多,那么辛顿到底是如何做到的呢?笔者举一个具体实例来说明。
一般来说,机器学习算法倾向于对输入样本的无关变化不敏感,譬如,处理图像识别这类问题时图片中物体的位置、方向或者物体上的装饰图案,处理语音识别问题时声音的音调或者口音,这些都属于与结果无关的变化,不应该影响识别任务的结果。但与之相对的是,有一些识别场景又需要对某些细微差异特别敏感,譬如图 7-13 那样,要分辨一匹白色的雪狼和一种长得很像狼的被称作萨摩耶的狗,两只萨摩耶在不同的环境里摆着不同姿势的照片,从像素级别来说可能会非常不一样,然而在类似背景下摆着同样姿势的一只雪狼和一只萨摩耶的照片,从像素级别来说又很可能非常相像。人类确实不难将雪狼和萨摩耶分辨出来,但无法解释清楚两者在像素级别的区分特征是怎样的。
266
第三部分 第三波高潮