人工智能时代：破解人机共存密码（套装共10册）

目前尚不清楚法院将如何执行这一条款。可能的情况是，不幸的消费者只会得到一份关于特定深度学习算法的描述，用于训练做决策的分类器。

如今，算法偏见产生的原因可能在于数据，而不在于公司故意作恶。2015年，《魅力》杂志报道了一个令人失望的发现：“在谷歌上搜索‘CEO’，图片搜索结果中第一幅女性图片出现在第12行，而且是个芭比娃娃。”（2018年在谷歌上搜索的结果中有一些真实的女性，但在普通的素材图片中大多数都是扮演CEO的模特，而不是真正的女性CEO。2019年的结果略好一些。）这不是因为谷歌图片搜索排名有意性别歧视，而是因为产生数据的文化中预先存在偏见，即男性CEO的数量远远多于女性CEO。当人们想要在标题图片中描绘一位“典型的”CEO时，他们几乎总是会选择一位男性人物。当然，“偏见主要存在于数据中”这一事实并不意味着我们没有义务采取措施来解决这个问题。

机器学习方法的幼稚应用会产生有偏见的结果，这里面还有其他更偏向技术性的原因。例如，根据定义，少数群体在全体人口数据样本中的代表性较差。因此，如果对少数群体中个别成员的预测主要基于同一群体其他成员的数据，那么这种预测可能不太准确。幸运的是，人们对消除机器学习算法中的无意偏见的问题给予了很大的关注，现在有一些方法可以根据几个看似合理和理想的公平定义，产生无偏见的结果。^[39]对这些公平定义的数学分析表明，它们不能同时实现，并且在强制执行时，它们会导致预测准确性降低，在贷款决策方面，还会损害贷款人的利益。这也许令人失望，但至少清楚地表明了避免算法偏见所涉及的权衡。人们希望，对这些方法和问题本身的认识可以在决策者、实践者和用户中迅速传播。

如果将个人的权力移交给机器有时会产生问题，那么将许多人的权力移交给机器又如何？也就是说，我们是否应该让机器扮演政治家和管理者的角色？目前，这似乎有些牵强。机器无法维持长时间的对话，也缺乏对广泛决策相关因素的基本理解，例如，是应该提高最低工资还是应该拒绝另一家公司的合并提议？然而，趋势是明显的：在许多领域，机器在越来越高的权力级别上做出决策。以航空公司为例。首先，计算机帮助编制航班时刻表。很快，它们接管了机组人员排班、预订座位和日常维护的工作。接下来，它们被连接到全球信息网络，向航空公司经理提供实时状态报告，以便经理能够有效地应对异常情况。现在，它们正在接管管理异常情况的工作：更改飞机航线，重新安排工作人员，重新为乘客订票，以及修改维护计划。

从航空公司经济情况和乘客体验的角度来看，这一切都是好事。问题是，计算机系统仍然是人类的工具吗？还是说人类变成了计算机系统的工具，即人类在必要时提供信息并修复漏洞，但不再深入了解整个系统是如何工作的？如果系统崩溃，全球混乱接踵而至，直到计算机系统重新上线后才恢复正常，那时答案就变得清晰了。例如，2018年4月3日出现的一次“计算机故障”导致欧洲1.5万个航班严重延误或取消。^[40] 2010年，交易算法导致纽约证券交易所“闪电崩盘”，几分钟内1万亿美元蒸发，此时唯一的解决办法是关闭交易所，而人们连发生了什么事还都没弄清楚。

在一切技术都没出现之前，人类和大多数动物一样，只能勉强糊口。可以说，我们的双脚直接站在地面上。技术逐渐让我们登上了机器的金字塔，扩大了我们作为个体和物种所能涉及的范围。我们可以用不同的方式来设计人与机器之间的关系。如果我们设计机器是为了让人类保留足够的理解、权威和自主，那么系统的技术部分就可以极大地放大人类的能力，使我们每个人都能站在一个巨大的能力金字塔上，如果愿意，我们可以说人类成了“半人半神”。但是让我们看看在线购物仓库中的员工。她比她的前辈效率更高，因为她有一支机器人小分队把她的储物箱送到面前，让她从中挑选物品。她是由智能算法控制的更大的系统的一部分，智能算法决定她应该站在哪里，应该挑选和分发哪些物品。她已经有半个身子埋在金字塔里了，而不是站在金字塔的顶端。随着沙子逐渐填满金字塔的空间，她的角色消失只是时间问题。

[1] 维基百科上关于史塔西的文章有几个有用的参考资料，涉及史塔西的人力及其对民主德国生活的整体影响。

[2] 关 于 史 塔 西 档 案 的 详 情 ， 请 参 见 ： Cullen Murphy, God’s Jury: TheInquisition and the Making of the Modern World (Houghton Mifflin Harcourt,2012)。

[3] 关于人工智能监控系统的全面分析，请参见：Jay Stanley, The Dawn of RobotSurveillance (American Civil Liberties Union, 2019)。

[4] 最近关于监视和控制的书籍包括：Shoshana Zuboff, The Age of SurveillanceCapitalism : The Fight for a Human Future at the New Frontier of Power(Public Affairs, 2019) and Roger McNamee, Zucked: Waking Up to the FacebookCatastrophe (Penguin Press, 2019)。

[5] 关 于 勒 索 机 器 人 的 新 闻 报 道 ： Avivah Litan, “Meet Delilah-the firstinsider threat Trojan,” Gartner Blog Network, July 14, 2016。

[6] 关于人类易受错误信息影响的低技术版本的一个例子，有一个毫无戒心的人确信世界正在被流星撞击摧毁，请参见：Derren Brown: Apocalypse, “Part One,” directedby Simon Dinsell, 2012, youtube.com/watch?v=o\_CUrMJOxqs。

[7] 史蒂文·塔德利斯（Steven Tadelis）对声誉系统及其腐败进行了经济分析：“Reputation and feedback systems in online platform markets,” AnnualReview of Economics 8 (2016): 321–40。

[8] 古德哈特定律：“任何观察到的统计规律，一旦出于控制目的而被施加了压力，就会趋于崩溃。”例如，教师素质和教师薪酬之间曾经可能存在相关性，《美国新闻与世界报道》（US News & World Report）的大学排名是通过教师薪酬来衡量教师素质的。这导致了一场薪酬“军备竞赛”，受益者是教师，而不是支付薪酬的学生。军备竞赛以不依赖教师素质的方式改变教师工资，因此这种相关性趋于消失。

[9] 一篇描述德国监管公共话语的文章：Bernhard Rohleder, “Germany set out to delete hate speech online. Instead, it made things worse,” World Post, February 20,2018。

[10] 关于“信息末日”（infopocalypse）：Aviv Ovadya, “What’s worse than fake news?The distortion of reality itself,” World Post, February 22, 2018。

2017。

05短

大猩猩问题

无须动用太多的想象力，你就能发现，制造出比自己更聪明的东西可能是个坏主意。我们知道，能对环境和其他物种进行控制是我们使用智慧的结果，所以一想到其他比我们更聪明的东西，无论是机器人还是外星人，我们就会立刻产生一种不安的感觉。

大约1 000万年前，现代大猩猩的祖先创造了进化出现代人类的遗传谱系（这肯定是偶然的）。大猩猩对此有何感想？显然，如果它们能告诉我们它们的物种相对于人类的现状，那么其共识意见肯定是非常负面的。它们的物种基本上没有未来，除了我们屈尊所允许它们拥有的未来。我们不希望在超级智能机器面前处于类似的地位。我称这种情况为“大猩猩问题”，具体而言，大猩猩问题就是，人类是否能在一个拥有更高智能的机器的世界里保持人类至高无上的地位和自主权的问题。

1842年，为分析机设计和编写程序的查尔斯·巴贝奇和艾达·洛夫莱斯意识到分析机的潜力，但他们似乎对此毫无疑虑。^[1]然而，1847年，宗教期刊《原始解释者》的编辑理查德·桑顿（RichardThornton）对机械计算机大加指责。^[2]

当心……通过发明机器来完成自己的思考，我们超越了自身，消除了自身存在的必要性……但是谁知道在这样的机器变得更完美之后，它们会不会想出一个计划来弥补自己的所有缺陷，然后钻研出超越凡人思维范畴的想法！

这可能是人类对计算设备所带来的生存威胁的第一次猜测，但仍然隐晦不清。