奎克的藏经阁 · 原书印刷页

人工智能与大数据技术导论 · 第 172 页

PDF 物理页索引 188 · 第6章

书名
人工智能与大数据技术导论
作者
未记录
印刷页
172
PDF 物理页
188(从 0 开始)
章节
第6章
UUID
cd4f7678-cd9b-4971-bde0-e9ad46a6cc71
来源类型
original_book
页面 SHA-256
72e16463e707315817d221c8faf7bb0c53f1ca402e398400d8ff54b7b58f6b53

推广到高维空间中,这条分割的“直线”不再是直线,而叫作超平面(hyperplane)。在三维空间中,超平面是二维的平面。在更高维空间中,超平面会更加抽象。为了方便描述这个超平面,我们需要知道如何用数学形式指代它,就像用 $\mathbf { y } = - \mathbf { x } + 2$ 表示图6-12的直线一样。

首先,我们要知道,在n维空间中,一个点的坐标需要n个数值来表示,即 $( \mathbf { x } 1 , \mathbf { x } 2 , . . . , \mathbf { x } \mathbf { n } )$ o我们可以把它简写为向量x,那么在n维空间中,超平面就可以用以下形式来表示:

$$
\mathbf { \Delta W } \circ \mathbf { \Delta x } + \mathbf { b } = 0
$$

其中,w和b是参数,就如同直线y=ax+b 中的a和 b一样,只不过这里的w是n维向量,b为实数。 $\mathrm { ~ w ~ } \bullet \mathrm { ~ x ~ } + \mathrm { b } > 0$ 和 $\mathrm { w } \cdot \mathrm { x } + \mathrm { b } < 0$ 分别对应超平面两侧的空间。对于一个未知标签的样本点x,我们只需看wx+b的正负,即可判别它是正值样本还是负值样本。这种分类模型叫作感知机(perceptron)。

让我们回到二维平面的例子。可以将图中两种点完全隔离的直线有无数条,那么其中是否存在一条最优的直线呢?

在图6-15中,直线a和b都能分离两种点,但当更多的点进来后,直线a将其中1个点错误地归类了,这是因为我们这条线画的“不够好”,离样本点太近,导致对新来的点划分不够精确。直线b做得更好,是因为它离两边的点都比较远,因此更容易将新来的点划分正确。于是我们想到,最“中间”的直线是最合适的。也就是说,我们应该找到离两侧样本点簇都尽可能远的直线。用专业术语来表示的话,就是让这个分类器的margin最大。

以上讨论的都是线性可分的情形。对于线性不可分的情况,SVM的解决方案是通过核函数进行空间变换,将低位空间投射到高位空间中去,使经过变换后的样本点实现线性可分。说起来可能有些玄幻,但这确实是可行的。

人工智能与大数据技术导论

172