{"resolved":true,"match_type":"uuid","source_type":"original_book","book_id":"cf76bc49-7e9b-4f42-bee8-3050a9fb9feb","title":"智慧的疆界 从图灵机到人工智能","author":null,"edition":null,"publisher":null,"year":null,"isbn":"9787111778004","requested_by":"printed_page","book":{"source_type":"original_book","book_id":"cf76bc49-7e9b-4f42-bee8-3050a9fb9feb","id":"cf76bc49-7e9b-4f42-bee8-3050a9fb9feb","uuid":"cf76bc49-7e9b-4f42-bee8-3050a9fb9feb","title":"智慧的疆界 从图灵机到人工智能","normalized_title":"智慧的疆界从图灵机到人工智能","author":null,"edition":null,"publisher":null,"year":null,"isbn":"9787111778004","isbns":["9787111778004","9787111695714"],"parsed":true,"ai_readable":true,"document_type":"book","page_count":456,"navigation_url":"https://workshop.closeclaw.top/ai/book/cf76bc49-7e9b-4f42-bee8-3050a9fb9feb","title_url":"https://workshop.closeclaw.top/ai/title/%E6%99%BA%E6%85%A7%E7%9A%84%E7%96%86%E7%95%8C%20%E4%BB%8E%E5%9B%BE%E7%81%B5%E6%9C%BA%E5%88%B0%E4%BA%BA%E5%B7%A5%E6%99%BA%E8%83%BD","fixed_page_url_template":"https://workshop.closeclaw.top/ai/book/cf76bc49-7e9b-4f42-bee8-3050a9fb9feb/page/{printed_page}","path_api_url_template":"https://workshop.closeclaw.top/api/ai/book/cf76bc49-7e9b-4f42-bee8-3050a9fb9feb/page/{printed_page}","read_url":"https://workshop.closeclaw.top/api/ai/read/cf76bc49-7e9b-4f42-bee8-3050a9fb9feb","page_url":"https://workshop.closeclaw.top/api/ai/books/cf76bc49-7e9b-4f42-bee8-3050a9fb9feb/page","search_url":"https://workshop.closeclaw.top/api/ai/books/cf76bc49-7e9b-4f42-bee8-3050a9fb9feb/search"},"page":{"printed_page":191,"pdf_page":206,"physical_index":206,"physical_index_base":0,"printed_page_status":"recognized","page_sha256":"42f50dd3c007e31bab1dc29aa22846fca83ba7a0ae0c835830e139b9dbae0813"},"chapter":"内容简介","content":"（Noise）；还有另一个问题是不同输入来源收集到的数据在数据结构、特征值的单位、表示精度等方面存在不一致的情况，此时我们就要对数据进行“规范化”（Normalization）处理，保证它们在结构上一致，去除数据的单位限制，将其转化为无量纲的纯数值，以便对不同单位或量级的指标进行比较和加权处理。\n\n机器学习中的数据清洗与传统数据挖掘中的数据清洗并没有什么不同，根据需要，大致会进行以下操作，以解决原数据中不完整、含噪声、不一致的问题，只有高质量的数据才能带来高质量的预测和决策结果：\n\n● 数据集成，将从多个数据源获得的数据结合起来，形成一致的结构，存放在一个一致的数据存储中。\n\n● 基础清洗操作，典型的如对数据进行基本的去重过滤操作。\n\n● 分层采样，对于样本数据较多、各样本之间差异较大的情况，通过不同的方法保证采样平衡，抽出具有代表性的调查样本，增大各类型样本间的共同性。\n\n● 数据分配，将数据集按照一定比例分为训练集、验证集、测试集等几部分，后续我们讲测试验证的时候会介绍这些内容。\n\n● 数据规范化，譬如将量纲表达式转化为纯量表达式（可简单理解成把数据“去掉单位”，譬如 10 厘米和 1 分米，归一化之后是一样的），然后缩放到同一数量级（典型的如 0 到 1 之间），提升指标之间的可比较性。\n\n● 平滑化，缩小数据在统计下的噪声差异，一种典型的平滑化操作是分箱，实际上就是按照特征值把样本划分到不同的子区间，如果一个特征值处于某个子区间内，就把该特征值放到这个子区间所代表的“箱子”内。在处理数据时采用特定方法分别对各个箱子中的数据进行处理。\n\n● 数据填补，典型的如 ID 值生成、使用统计算法替换缺失的观察值等。\n\n……\n\n关于上面这些数据清洗操作具体如何进行，囿于篇幅，就不详细展开了，读者可自行查阅数据挖掘方面的书籍。预处理过程中与机器学习关系更密切的步骤是“特征选择”。所谓特征选择，是指我们应该放弃对结果影响轻微的特征，挑选出对结果有决定性影响的关键特征，作为建模阶段的模型的输入。\n\n第 6 章 机器学习概览\n\n191","previous_page":190,"next_page":192}