第2章|算法无处不在，我们却对它一无所知
从数学解密班克西身份的文章中回过神来之后，我意识到此前我对算法给社会带来的改变会产生多大规模认识不足。但我需要说明，我并没有错过数学的发展。机器学习、统计模型、人工智能都是我的研究范畴，也是我和同事们日常交流的话题。我阅读最新的文章，紧跟学科的各项重大突破。但我关注的是事物的科学一面，研究抽象的算法如何工作。之前我没有严肃地去考虑这些算法应用有可能带来的后果，也没有想过我开发的工具正在如何改变这个社会。
黑箱操控——互联网巨头不想说的事
我不是唯一意识到这个问题的数学家，而且跟我对班克西身份被解密的杞人忧天比起来，我的一些同行发现了真正值得担忧的事情。2016年末，数学家凯西·奥尼尔（CathyO'Neil）出版了她的书《算法霸权》(Weapons of Math Destruction)，书中阐述了我们对算法无处不在的滥用，从评估老师的教学成果、在线推销大学课程，到提供民间信贷、预测回到社会的犯人再次犯罪的可能性。她的结论有些让人毛骨悚然：算法随心所欲地做出与我们有关的决定，根据的仅仅是一些可疑的假设和不准确的数据。
第一部分 算在监我数据做了什么？
11