人工智能时代：破解人机共存密码（套装共10册）

效果令人印象深刻。在接受《自然》^[1] （Nature）杂志采访时，Riot游戏公司社会系统首席设计师杰弗里·林着重描述了当骚扰导致游戏中出现不良表现时，游戏内置的警示是如何减少毒害行为的：“与对照组相比，负面反应减少8.3%，言语辱骂减少6.2%，攻击性语言减少11%。”一个关于球员合作的正面提示，减少了6.2%的攻击性语言。在公司发布机器学习算法后，相对于其他排名游戏（电子游戏中最具竞争力的游戏）而言，语言毒害降低了40%。

Riot游戏公司已经表示，它将公布其成果供大家借鉴。在本例中，软件开发人员愿意“承担”风险，因为风险影响到他们的商业模式和客户体验。

在软件的设计和持续优化中鼓励积极行为，只是管理风险的众多内置技术解决方案中的一个例子。数字技术基础科学的一个关键方面涉及纠错的概念，尼尔在下一章中就此进行了更全面的探讨。对于人和社会的纠错要比技术纠错更难，不过Riot游戏公司的例子提供了一些可能的方式。顺着这些路径思考，可能有一天机器会感知到某些材料的误用，或者在出现新的误用形式时应用人工智能（AI）学习如何处理。当前，考虑方法和应对潜在误用事件仍然需要人来做出决定。

因此，任何缓解风险的策略都应该拥有一个重要内容，即一系列广泛的论坛和机制，专门用于跟踪和解决出现的问题，同时预测潜在问题，进而将社会进程与技术结合起来。

虽然Riot游戏公司的例子阐明了如何利用技术使行为走向更加文明的语言形式，但它假定了玩家对技术本身的最低接受程度。贝蒂·巴雷特是香槟–厄巴纳市社区“数制”工坊的联合创始人，也是针对美国“数制”工坊中的涉众队伍进行研究的团队领导者之一，她指出了一个更深层次的风险：“指数变化的方向并不总是向前或向上的。变化的速度可能出现倒退。世界上有些势力认为倒退符合他们的利益。这包括‘宗教激进主义信仰’和‘反智主义’。”她补充说，“对科学的强烈怀疑和不信任限制了变化的速度。这是一场规模宏大的战斗，数字制造将被许多人对技术变革的恐惧影响。”当然，具有讽刺意味的是，这些狭隘的看法又被科技手段放大了，其影响还在加速。巴雷特注意到这里有两个风险。首先，数字制造还没有准备好面对极为猛烈的意识形态阻力，而意识形态的存在本身就被视为一种冒犯。第二，世界某些地区将不会面临如此强烈的阻力，并将加速前进，进一步加深智造的鸿沟。

当我们进入第三次数字革命的后期时，随着扑朔迷离甚至已经暗流涌动的新风险的接踵而至，这些源于恐惧的挑战可能会深化。尼尔经常谈到机器是如何制造机器的，正如我们在以后的章节中所了解到的那样——装配机组装装配机，但他并不清楚人类如何融入这些召唤性图景。过程将如何开始和终止？它会停止吗？它会暴虐横行吗？当人们听说机器制造机器和装配机组装装配机时，他们很难不陷入“顽劣的人工智能肆虐人类”的想象。当我们考虑到人类的许多生存威胁时，人工智能与数字制造必然交织在一起。在这里，基本挑战始于如何围绕第三次数字革命的前景培养博闻强识且专注投入的人群。这项技术需要以一种吸引人的方式呈现，突出清晰明确、通俗易懂且触手可及的功能，消除真正的内心恐惧。正如我们即将在第6章深入探索的那样，我们必须将用脑（以逻辑为中心的方法）、入心（以情感为中心的方法）和动手（实际动手方法）相结合，其目的是确保社会体系与加速进步的技术有效地协同发展。

第三次数字革命的潜能也引发了一个问题，即社会中将由谁来仲裁技术中蕴含的价值观。我们是相信技术人员，还是会邀请伦理学家、社会学家、说书人、宗教领袖和调解员？我们（几乎）可以设想出数字技术相关道德问题的解决进程，但更为困难的是使人们相信其解决结果的合法性，它必须要经得起历史的检验。

虽然“数制”工坊必须降低自身风险，但它们也可以在降低社会风险方面发挥作用。正如尼尔在第1章中所介绍的那样，迪娜·埃尔–赞法利于2011年埃及骚乱时，在开罗与人共同创建了一个“数制”工坊。事实上，它位于离解放广场不远的地方。在抗议的喧嚣中，“数制”工坊被证明是一个中立的、安全的地方。埃尔–赞法利回忆说，这是“一个充满活力和热情的气泡。它与革命有某种联系，但也是分开的”。即使数字制造带来了新的风险，“数制”工坊也能培育社区并促进创新，从而在抗议和变革的时候降低风险。

数字制造能力可以发挥降低风险的作用的另一个领域是由美国众议员比尔·福斯特提出的。福斯特重点关心国家安全问题，他指出军事和自然灾害的威胁可能会使经济大面积瘫痪。在这些场景中，他认为分布式制造是灾后重建一个运转良好的社会的重要能力。福斯特进一步描述了一种军事场景，其中包括在战争中更多地使用机器人。在这种情况下，入侵者可能在每个街角都安置军事化机器人。反击的能力很可能取决于当地与该国的数字制造能力，以产生应对意想不到的技术威胁的快速原型反应。

福斯特在国会提出了一项法案，阐明了“数制”工坊在全美的网络价值。除了国家安全领域，他还认识到“数制”工坊是一个促进学习、建设社区和鼓励创新的源泉。但对于国会中的许多人来说，当重点放在工坊网络有可能减轻社会灾难性风险上时，人们就会更加重视。

大挑战

社会面临着许多重大挑战，每一个挑战都伴随着全球风险。联合国有17项“可持续发展目标”，包括第三次数字革命可以推进的许多目标：扶贫；城市和社区可持续发展；负责任的消费和生产；体面工作与经济增长；减少不平等；工业、创新和基础设施；优质教育；和平、正义和强有力的体制。尼尔甚至针对这些目标开设了一个“数制”工坊。基金会、专业协会和全球组织都在阐述重大挑战，这是有原因的。这是因为大多数社会机构并不能有效解决这些复杂的、不断演变的、相互交叉的问题。正如经济学家、历史学家、诺贝尔经济学奖得主道格拉斯·诺斯在1990年定义的那样，制度“是由人类衍生的、影响人类互动的约束”。简而言之，它们是游戏规则，数字制造有可能成为社会机构的游戏规则。然而，要实现这一可能，首先要把握原有的体制环境。

许多现有的机构，如那些与教育、商业、社区和环境有关的机构，正在努力跟上技术加速进步的步伐。多数情况下，现有的机构代表着保守主义，为数字制造等新事物设置了潜在的障碍。第三次数字革命将同时让现有机构参与进来，并揭示系统中的漏洞——这些漏洞将被新出现的、更加机敏的人、平台和程序利用。

在调查中，我们要求智造先驱展望2025年，并预测数字制造将在多大程度上改变社会的关键要素——教育和培训、商业和创业、政府和民间组织、环境和经济的可持续性以及社区和文化。在这一群体中，有许多人在这些体制性安排下发挥着作用。在设计和制造方面，64.7%的人说自己扮演了教育角色，53.9%的人说起到了社区组织者的作用，35.9%的人说起到了公共领导的作用。在图2–6中，数字等级表示先驱者在数字制造对社会各个方面的影响的问题上的平均反应（在数字等级中，0表示“完全没有改变”，10表示“完全改变”）。

考虑到距离2025年还有不到10年的时间，那些最接近数字制造技术的人预计将会发生相当大的变化，其中教育领域和培训领域的变化最大，而政府和民间组织的变化最小。要知道，这些都是先驱者的预测，而非他们的意愿。预测的意义不是描述你想要什么，而是预测事情的发展方向，找出干预的方向，或者提示如何从现在做起，以实现共同的目标。因此，这一预测活动得出的结论是，那些最接近新技术的人预计政府和民间组织将在技术上落后。对于这些机构的领导人来说，这一预测应该被视为一种应当深入研究的挑战，实际上，结论证明这些机构领导人是错的。

正如尼尔在第1章中指出的，联合国领导人并没有看到重大挑战与数字制造之间的直接联系。但是，当他们意识到这一点时，他们对数字制造的整体态度从认为其可有可无，转变为把它看作一个刚性需求。要使第三次数字革命真正成为一场革命，不仅仅需要在技术性能方面表现出指数级的增长。这项技术必须明确地解决长期的社会需求，其模式是可复制的，并在当地适应广泛的影响。仅仅符合联合国可持续发展目标的概念并不意味着这就是现实。

正如前白宫科技政策办公室副主任、创客和智造运动的有力倡导者汤姆·卡利尔所指出的：“创客或‘数制’社区帮助解决特定社会问题的能力，是衡量进步的一个关键尺度。这不仅仅与自我表达有关。”他接着列举了一些例子，比如创客和残疾人共同努力设计辅助技术，以及创客和教育家共同努力降低学校辍学率。

虽然在社会重大挑战层面的有形影响方面取得进展，但还存在涉及无形影响的风险。德里克·曼西尼曾担任阿贡国家实验室纳米材料中心的设计和建造项目主管，他说：“人们被数字制造所吸引，是因为它是技术加速进步引起的一种反应。工业革命曾经引发了一场手工艺运动，这种情况与人们被数字制造和创客运动吸引的情况差不多人们在接触创客技术时，就会表现对个人控制的深切渴望。”这样，数字制造的兴起对于人们在加速变革的时代实现更大的个人控制提供了巨大的机遇。

总之，令智造生态系统悲喜交加的，是对第三次数字革命的未来至关重要的4个基本挑战：智造获取、智造素养、培育赋能的智造生态系统和降低潜在风险。此外，还存在持续的矛盾，例如技术的易用性的平衡和对“黑匣子”解决方案的避免；将对可互操作的标准和协议的需要与社区的分散性和独立性相协调；对不同涉众之间的无等级决策和集体行动的各种需要的平衡。我们应对这些挑战和矛盾的综合能力，很可能会决定我们将平衡推向怎样的未来——一个所有人都能智造（几乎）任何事物的乐观的未来，或者一个一些人可以智造（几乎）任何事物的未来。

（本章由艾伦、乔尔撰写）

[1] 《自然》于1869年在英国创立，在学术界享有盛誉，常与美国的《科学》杂志并称为世界两大顶级学术刊物。——译者注

第3章

背后的科学

想要了解数字制造的未来，我们必须要先理解它的过去。根据不同的计算方式，我们通常认为第三次数字革命是在2000年前后随着创客运动的兴起和第一个“数制”工坊的成立而发生的。我们也可以将其发生时间追溯到1950年左右，即早期的电脑在麻省理工学院第一次成功连接一台制造机器的时候；如果再往前推算，其开始时间可以追溯到40亿年前，即生命演化出“分子制造”机制的时候。

在各个历史时期，无论你选择哪个时间起点，数字制造都与通信的发展和计算的数字化有着密切的历史相似性。三次数字革命有着相同的核心理念。它们教给我们的共同的一课是在其演化路径变得清晰与技术到达最终形态之前，其含义都可以被理解与实践。过去发生的只是第三次数字革命的序章，就像我们在本章内容中描述的那样，我们会跟随摩尔定律在过去几十年间的发展轨迹，与现在正在发生的拉斯定律接轨。

从摩尔定律到拉斯定律

1965年，戈登·摩尔发布了历史上最著名的图表，这个图表知名到被认为定义了通信与计算领域的数字革命的程度。当时，《电子》（Electronics）杂志希望摩尔对下一个10年内电子零部件的发展进行预测。那时，摩尔是仙童半导体的研发部主任，他在1968年的时候还协助他人成立了英特尔公司。

他通过5个数据点就看到了未来。把集成电路上的器件数量与时间作为参数绘成折线图，结果表明器件数量几乎每年都翻倍。经典的翻倍原理是增殖。一个细胞会分裂成两个细胞。之后，这两个细胞会分裂成4个，4个细胞会分裂成8个，之后是16个，以此类推。这个数列可以写成一系列关于2的指数规律的式子： $2 { = } 2 ^ { 1 }$ $4 { = } 2 \times 2 { = } 2 ^ { 2 }$