智人之上：从石器时代到AI时代的信息网络简史

用来处理假币的道理，应该同样适用于处理假冒人类的问题。要是政府在假币的处理上态度坚决，认为有必要保护人民对货币的信任，此时也该以同样坚决的态度，保护人民对人类的信任。在人工智能兴起之前，人类就有可能假冒他人身份，而且社会对这种诈骗行为绝不宽恕。但社会过去并没想过要立法禁止^“假冒人类^”这种问题，因为过去没有假冒人类的技术。时至今日，既然人工智能有了假冒人类的能力，就有可能破坏人类彼此的信任，使社会结构遭到破坏。因此丹尼特建议，政府应该果断立法禁止假冒人类，就像过去禁止伪造货币一样。

法律不但应该禁止深度伪造特定的真实人物（如制作假的美国总统的视频），同时还应该禁止非人类行为者冒充人类。如果有人说这种严格的规定侵犯了言论自由，我们应该提醒他们，机器人程序并没有言论自由。禁止人类使用公共平台是敏感的行为，民主制度对于这种行为的审查制度应该格外谨慎。但禁止机器人程序是个再简单不过的议题：这不会侵犯任何人的权利，因为机器人程序并不拥有任何权利。

这并不代表民主制度必须禁止所有机器人程序、算法与人工智能参与所有讨论。许多对话都欢迎各种数字工具加入，但前提是不要假冒为人。举例来说，人工智能医生可能对人类非常有帮助，可以每天₂₄小时注意我们的健康状况，根据每个人的健康状况与个性量身打造医疗建议，并且有无限的耐心来回答我们的问题。然而，人工智能医生永远不该假装自 己是人。

民主制度另一项可以采取的重要措施，是禁止算法在无人监督的情况下对关键的公共辩论进行筛选和管理。当然，我们还是可以继续使用算法来运行各种社交媒体，毕竟这种工作显然不是人类力所能及的。然而，算法究竟根据怎样的原则来决定要屏蔽哪些声音、放大哪些声音，都必须经过人类的审查。审查真实的人类观点，绝对需要小心谨慎，但我们可以做的是阻止算法刻意散播愤怒的情绪。至少对于算法是依据怎样的原则来进行筛选，企业应该保持透明。要是企业用愤怒来吸引我们的注意力，就得清楚坦陈自 己的商业模式，以及背后可能存在的政治连接。如果算法会系统性地屏蔽与该企业立场不同的视频，用户也该有权得知。

近年来已经有许多人提出想法，对民主制度该如何监督机器人程序与算法进入公共对话建言献策，这里提到的只是一小部分。当然，每种方式都各有优缺点，做起来也都不简单。而且因为科技发展如此迅速，各种法规可能很快就会过时。我在这里想说的是民主制度绝对可以对信息市场加以规范，而且民主制度的存亡也正取决于此。天真的信息观反对监管，认为全然自由的信息市场会自然而然产生真相与秩序。但这与民主的实际历史完全是两回事。维护民主对话从来都不是件容易的事，过去所有的民主对话场域（从国会与市政厅到报纸与广播）也都需要监管，而在一个非人类智能可能主导对话的时代，监管更应加强。

民主的未来

在人类历史上的大部分时间里，信息技术都不够先进，无法进行大规模的政治对话，也就培养不出广泛的民主制度。在过去，如果几百万人分布于几万平方千米的土地，没有工具能够让他们即时讨论各种公共事务。但讽刺的是，现在反而有可能因为信息技术变得太先进而让民主制度戛然而止。要是高深莫测的算法主导了政治对话，特别是压制有理有据的主张、刻意煽动仇恨与制造混淆，公众讨论就无以为继。然而，民主制度如果真的崩溃，应该并不是出于技术上的必然，而是因为人类没能管好新技术的发展。

我们无法预测事情的发展，但显然目前许多民主国家的信息网络正在崩溃。在美国，民主党与共和党甚至在基本的事实上都会出现意见分歧（例如，究竟是谁赢得了₂₀₂₀年总统大选），也几乎无法再进行文明对话。国会的两党合作曾经是美国政治的基本特征，但现在几乎再也看不到这种情形。而从菲律宾到巴西，许多其他民主国家也都逐渐走向极端。一旦公民无法相互交谈，把对方视为彻底的仇敌，而不只是政治上的对手，民主制度就难以继续。

没有人确切知道，究竟是什么原因导致民主信息网络的崩溃。有人说是因为意识形态的分歧，但事实上，在民主制度功能失调的国家，意识形态的分歧似乎并不比过去严重。在₂₀世纪₆₀年代，美国就曾经在民权运动、性革命、越战、冷战等议题上出现严重的意识形态冲突，造成严重分裂。虽然当时的紧张局势使政治暴力与暗杀事件数量激增，但共和党与民主党仍然能对选举结果达成共识，同样相信法院这样的民主机构，在国会也至少能就部分议题携手合作。₁₉₆₄年，《民权法案》就是在民主党₄₆票、共和党₂₇票的支持下在参议院通过的。难道₂₁世纪₂₀年代的意识形态分歧比₂₀世纪₆₀年代严重那么多吗？如果不是意识形态，又是什么因素让大家渐行渐远？

很多人把问题归咎于社交媒体的算法。前面的章节已经谈过社交媒体会如何造成分裂，然而虽然证据确凿，却肯定还有其他因素的影响。事实上，虽然我们清楚地看见民主信息网络正在崩溃，却找不出确切的原因。这件事本身就成了一个时代特征。信息网络已经变得如此复杂，而且非常依赖各种不透明的算法做出的决策与存在于计算机之间的实体，结果就是人类甚至很难回答一个最基本的政治问题：我们斗成这样，究竟是为什么？

要是我们没办法找出问题，加以修复，随着科技的发展，大规模的民主制度或许就会无以为继。如果事情真的这样发展下去，接下来又会是什么政治体制取代民主成为主流？未来属于极权政权吗？计算机会让极权制度同样走不下去吗？我们接下来就会看到，人类独裁者也有害怕人工智能的理由。

1. Andreessen, “Why AI Will Save the World.”; Ray Kurzweil, The Singularity Is Nearer:When We Merge with AI (London: The

1. Laurie Laybourn-Langton, Lesley Rankin, and Darren Baxter, This Is a Crisis: Facing Up to the Age of Environmental Breakdown, Institute for Public Policy Research, Feb. 1, 2019, 12,www.jstor.org/stable/resrep21894.5.

1. Thomas Reuters Popular Law, “Psychotherapist-Patient Privilege,” uk.practicallaw.thomsonreuters.com/6-522-3158; U.S. Department of Health and Human Services,“Minimum Necessary Requirement,” www.hhs.gov/hipaa/forprofessionals/privacy/guidance/minimum-necessaryrequirement/index.html; European Association for Psychotherapy, “EAP Statement on the Legal Position of Psychotherapy in Europe,” January 2021, available at www.europsyche.org/app/uploads/2021/04/Legal-Position-of-Psychotherapy-in-Europe-2021Final.pdf.

Nursing,”Nursing Management 50, no. 9 (2019): 30–39; Aprianto Daniel Pailaha, “The Impact and Issues of Artificial Intelligence in Nursing Science and Healthcare Settings,”SAGE Open Nursing 9(2023), article 23779608231196847.

1. 关于人类如何识别不同情绪，请参见：Tony W. Buchanan, David Bibas, and Ralph Adolphs, “Associations Between Feeling and Judging the Emotions of Happiness and Fear:Findings from a Large-Scale Field Experiment,”PLOS ONE 5, no. 5 (2010), article 10640,doi.org/10.1371/journal.pone.0010640; Ralph Adolphs, “Neural Systems for Recognizing Emotion,”Current Opinion in Neurobiology 12, no. 2 (2002): 169–77; Albert Newen, Anna Welpinghus, and Georg Juckel, “Emotion Recognition as Pattern Recognition: The Relevance of Perception,”Mind and Language 30, no. 2 (2015): 187–208; Joel Aronoff, “How We Recognize Angry and Happy Emotion in People, Places, and Things,”Cross-Cultural Research 40, no. 1 (2006): 83–105. 关于人工智能与情绪 识别，请参见：Smith K. Khare et al., “Emotion Recognition and Artificial Intelligence: A Systematic Review (2014–2023) and Research Recommendations,”Information Fusion 102 (2024), article 102019, doi.org/10.1016/j.inffus.2023.102019.

1. Seung Hwan Lee et al., “Forgiving Sports Celebrities with Ethical Transgressions: The Role of Parasocial Relationships, Ethical Intent, and Regulatory Focus Mindset,”Journal of Global Sport Management 3, no. 2 (2018): 124–45.

1. 参见尤瓦尔·赫拉利《未来简史》第3章：Harari, Homo Deus,chap. 3.

1. Suleyman, Coming Wave.

“Assessment of Evidence on the Quality of the Correctional Offender Management Profiling for Alternative Sanctions
(COMPAS),”Center for Public Policy Research, Dec. 26, 2007, cpb-us
e2.wpmucdn.com/sites.uci.edu/dist/0/1149/files/2013/06/CDCR-Skeem-EnoLouden-COMPASeval-SECONDREVISION final-Dec-28-07.pdf; Julia Dressel and Hany Farid, “The Accuracy, Fairness, and Limits of Predicting Recidivism,”Science Advances 4, no. 1 (2018), article eaao5580; Julia Angwin et al., “Machine Bias,” ProPublica, May 23, 2016,
www.propublica.org/article/machine bias-risk-assessments-incriminal-sentencing. 然而，也请参见：Sam Corbett-Davies et al., “A Computer Program Used for Bail and Sentencing
Decisions Was Labeled Biased Against Blacks: It’s Actually Not That Clear,”Washington Post, Oct. 17, 2016,
www.washingtonpost.com/news/monkey
cage/wp/2016/10/17/can-an-algorithm-be-racist-our analysis-ismore-cautious-than-propublicas.

_29. ^“卢米斯诉威斯康星州案：威斯康星州最高法院要求算法在进行犯罪风险评估之前必须发出警告。

1. Seena Fazel et al., “The Predictive Performance of Criminal Risk Assessment Tools Used at Sentencing: Systematic Review of Validation Studies,”Journal of Criminal Justice 81 (2022),article 101902; Jay Singh et al., “International Perspectives on the Practical Application of Violence Risk Assessment: A Global Survey of 44 Countries,”International Journal of Forensic Mental Health 13, no. 3 (2014): 193–206; Melissa Hamilton and Pamela Ugwudike,“A ‘Black Box’ AI System Has Been Influencing Criminal Justice Decisions for over Two Decades — It’s Time to Open It Up,” The Conversation, July 26, 2023, theconversation.com/a-black-box-ai-system-has-beeninfluencing-criminal-justice-decisions-for-over-two-decades itstime-to-open-it-up-200594; Federal Bureau of Prisons,

“PATTERN Risk Assessment,”accessed Jan. 11, 2024, www.bop.gov/inmates/fsa/pattern.jsp.

1. Manish Raghavan et al., “Mitigating Bias in Algorithmic Hiring: Evaluating Claims and Practices,” in Proceedings of the 2020 Conference on Fairness, Accountability, and Transparency (2020): 469–81; Nicol Turner Lee and Samantha Lai, “Why New York City Is Cracking Down on AI in Hiring,” Brookings Institution, Dec. 20, 2021, www.brookings.edu/articles/why-new-york-city-iscracking-down-on-ai-in-hiring/; Sian Townson, “AI Can Make Bank Loans More Fair,”Harvard Business Review, Nov. 6, 2020, hbr.org/2020/11/ai can-make-bank-loans-more-fair; Robert Bartlett et al., “Consumer-Lending Discrimination in the FinTech Era,”Journal of Financial Economics 143, no. 1 (2022): 30–56; Mugahed A. Al-Antari, “Artificial Intelligence for Medical Diagnostics — Existing and Future AI Technology!,”Diagnostics 13, no. 4 (2023), article 688; Thomas Davenport and Ravi Kalakota, “The Potential for Artificial Intelligence in Healthcare,”Future Healthcare Journal 6, no. 2 (2019): 94–98.

1. European Commission, “Can I Be Subject to Automated Individual Decision-Making,Including Profiling?,” accessed Jan. 11, 2024, commission.europa.eu/law/law-topic/data protection/reform/rights-citizens/my-rights/can-i-be-subjectautomated-individual-decision making-including-profiling\_en.

1. Suleyman, Coming Wave, 54.

1. Brinkmann et al., “Machine Culture.”

1. Suleyman, Coming Wave, 80. 也请参见：Tilman Räuker et al., “Toward Transparent AI:A Survey on Interpreting the Inner Structures of Deep Neural Networks,” 2023 IEEE Conference on Secure and Trustworthy Machine Learning (SaTML), Feb. 2023, 464–83,doi:10.1109/SaTML54575.2023.00039.