{"resolved":true,"match_type":"uuid","source_type":"original_book","book_id":"cd4f7678-cd9b-4971-bde0-e9ad46a6cc71","title":"人工智能与大数据技术导论","author":null,"edition":null,"publisher":null,"year":null,"isbn":"9787302517986","requested_by":"printed_page","book":{"source_type":"original_book","book_id":"cd4f7678-cd9b-4971-bde0-e9ad46a6cc71","id":"cd4f7678-cd9b-4971-bde0-e9ad46a6cc71","uuid":"cd4f7678-cd9b-4971-bde0-e9ad46a6cc71","title":"人工智能与大数据技术导论","normalized_title":"人工智能与大数据技术导论","author":null,"edition":null,"publisher":null,"year":null,"isbn":"9787302517986","isbns":["9787302517986"],"parsed":true,"ai_readable":true,"document_type":"book","page_count":490,"navigation_url":"https://workshop.closeclaw.top/ai/book/cd4f7678-cd9b-4971-bde0-e9ad46a6cc71","title_url":"https://workshop.closeclaw.top/ai/title/%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD%E4%B8%8E%E5%A4%A7%E6%95%B0%E6%8D%AE%E6%8A%80%E6%9C%AF%E5%AF%BC%E8%AE%BA","fixed_page_url_template":"https://workshop.closeclaw.top/ai/book/cd4f7678-cd9b-4971-bde0-e9ad46a6cc71/page/{printed_page}","path_api_url_template":"https://workshop.closeclaw.top/api/ai/book/cd4f7678-cd9b-4971-bde0-e9ad46a6cc71/page/{printed_page}","read_url":"https://workshop.closeclaw.top/api/ai/read/cd4f7678-cd9b-4971-bde0-e9ad46a6cc71","page_url":"https://workshop.closeclaw.top/api/ai/books/cd4f7678-cd9b-4971-bde0-e9ad46a6cc71/page","search_url":"https://workshop.closeclaw.top/api/ai/books/cd4f7678-cd9b-4971-bde0-e9ad46a6cc71/search"},"page":{"printed_page":176,"pdf_page":192,"physical_index":192,"physical_index_base":0,"printed_page_status":"recognized","page_sha256":"616b33fbaeceb3eef3f23eaae612094d8ff5aae8d71473751121789ce7a893cf"},"chapter":"第6章","content":"$$\nd _ { 1 2 } = \\sqrt { \\sum _ { k = 1 } ^ { n } ( x _ { 1 k } - x _ { 2 k } ) ^ { 2 } }\n$$\n\n除了欧几里得距离之外，KNN用到的常见距离还有曼哈顿距离（ManhattanDistance）和切比雪夫距离（ChebyshevDistance）。这三种距离统称为闵可夫斯基距离，可用下面这个通式来表示：\n\n$$\nd _ { 1 2 } = \\left( \\sum _ { i = 1 } ^ { n } | x _ { 1 i } - x _ { 2 i } | ^ { p } \\right) ^ { 1 / p }\n$$\n\n当 $\\mathrm { p } = \\mathrm { 1 }$ 时为曼哈顿距离。\n\n当 $\\mathrm { p } = 2$ 时为欧几里得距离。\n\n当 $\\mathrm { p } = \\infty$ （正无穷）时为切比雪夫距离。\n\n$$\n\\operatorname* { l i m } _ { p \\to \\infty } \\left( \\sum _ { i = 1 } ^ { n } | x _ { i } - y _ { i } | ^ { p } \\right) ^ { \\frac { 1 } { p } } \\operatorname* { m a x } _ { i = 1 } ^ { n } | x _ { i } - y _ { i } |\n$$\n\n1. 基于距离倒数的权重KNN\n\nKNN算法的一个可以改进的地方是将“临近点取平均值”改为“临近点按距离权重取平均值”。对离测试点更近的点赋予更高的权重，离测试点较远的点赋予较低的权重。比如 ${ \\bf k } =$ 5时，如果做回归，预测结果由最近的5个点分别乘1/5相加得到，如图6-20所示。在使用距离权重系数后，预测结果改为由最近5个点分别乘以w1、w2、w3、w4、w5得到，其中wi和测试点到邻近样本点i的距离di成反比。\n\n2. KNN的参数调节\n\n虽然KNN没有训练的过程，但KNN也会出现过拟合现象。回顾一下过拟合的定义，过拟合指的是训练集和测试集表现相差较大的现象。KNN模型如果使用不当，这种情况也是会发生的。发生过拟合时，训练集本身的样本点几乎都被正确分类，但训练集之外的点分类不够准确。\n\n当发生过拟合时，我们需要适当增大参数k。试想当k=1时，所有训练集内部的点绝对会被正确分类（如果不考虑有重合样本点且标签不同的情况），这是因为每个点离它最近的点就是自己。这样训练集的准确率可以达到100%。但测试集中一旦有和训练集不同的点，预测效果就难以保证了。随着k的增大，模型更不容易收到离群值的影响，预测效果更加稳定。\n\n人工智能与大数据技术导论\n\n176","previous_page":175,"next_page":177}