AI 3.0（畅销书《复杂》作者、复杂系统前沿科学家梅拉妮·米歇尔，历经10年思考，厘清人工智能与人类智能的全新力作，全景式地展现了人工智能的...

01 从起源到遭遇寒冬 心智是人工智能一直无法攻克的堡垒

J. McCarthy et al.,“A Proposal for the Dartmouth Summer Research Project in Artificial Intelligence”, submitted to the Rockefeller Foundation, 1955, reprinted in AI Magazine 27, no. 4 (2006): 12-14.

2 控制论是研究“生物和机器中的控制与通信”的一 个 跨 学 科 领 域 。 见 N. Wiener, Cybernetics(Cambridge, Mass.: MIT Press, 1961)。

3 N. J. Nilsson, John McCarthy: A Biographical Memoir (Washington, D.C.: National Academy of Sciences, 2012).

4 McCarthy et al.,“Proposal for the Dartmouth Summer Research Project in Artificial Intelligence”.

5 同上。

6 G. Solomonoff,“Ray Solomonoff and the Dartmouth Summer Research Project in Artificial Intelligence, 1956”, accessed Dec. 4, 2018.

8 H. A. Simon, The Shape of Automation forMen and Management (New York: Harper & Row, 1965),96.请注意，西蒙是用“man”（此处为其复数形式“men”）而不是“person”来表示人，“man”这个词在20世纪60年代的美国是司空见惯的。

9 M. L. Minsky, Computation: Finite and Infinite Machines (Upper Saddle River, N. J.: Prentice-Hall, 1967), 2.

11 M. L. Minsky, The Emotion Machine: Commonsense Thinking, Artificial Intelligence, and the Future of the Human Mind (New York: Simon & Schuster, 2006), 95.

12 One Hundred Year Study on Artificial Intelligence (AI100), 2016 Report, 13.

13 同上，12。

14 J. Lehman, J. Clune, and S. Risi,“An Anarchy of Methods: Current Trends in How Intelligence Is Abstracted in AI”, IEEE Intelligent Systems 29, no. 6 (2014): 56-62.

15 A. Newell and H. A. Simon,“GPS: A Program That Simulates Human Thought”, P-2257, Rand Corporation, Santa Monica, Calif. (1961).

16 F. Rosenblatt,“The Perceptron: A Probabilistic Model for Information Storage and Organization in the Brain”, Psychological Review 65, no. 6 (1958): 386-408.

17 从数学的角度看，感知机学习算法如下。对于每个权重 $\textit { w { j } } \colon \textit { W { j } } \textit { W { j } } + \textit { \eta } \textit { \eta } ( t \textit { \eta } + \textit { y } ) \textit { { X } } _ { j }$ ，其中t 表示正确的输出（1或0）；对于给定的输入，y 是感知机的实际输出； $X _ { j }$ 是与权重 $W _ { j }$ 有关的输入； η 是由程序员给出的学习速率，箭头表示更新。阈值通过创建一个附加的输入x 合并得到。 $ { X } { 0 }$ 为常数1，其相对应的权重 $\ : W _ { \mathrm { ~ 0 ~ } } = - \ :$ threshold（阈值）。对于给定额外的输入和权重（称为偏差），只有在输入与权重的乘积，即输入向量与权重向量之间的点积大于或等于0时，感知机才会被触发。通常，输入值会被缩小或者应用其他变换以防止权重过大。

18 M. Olazaran,“A Sociological Study of the Official History of the Perceptrons Controversy”,

26 C. Moewes and A. Nürnberger, Computational Intelligence in Intelligent Data Analysis (New York: Springer, 2013), 135.

27 M. L. Minsky, The Society of Mind (New York: Simon & Schuster, 1987), 29.

02 从神经网络到机器学习_，谁都不是最后的解药

1 每个隐藏单元和输出单元的激活值y 通常是将输入到该单元的向量 x 与连接该单元的权重向量 w 做点积后代入sigmoid函数得到的结果： $y = 1 | \left[ \begin{array} { l l l l l l } { } & { 1 + \mathrm { e } } & { - } & { ( } & { x } & { \bullet } & { w } \end{array} \right]$ ］。这里 x 和 w 向量还包括“偏置”权重和激活值。如果这些单元具有像sigmoid函数的非线性输出函数，只要有足够的中间（隐藏）单元，网络就可以将任何函数（有最小值限制的）计算逼近至任何期望的近似水平，这叫作万能逼近定理。更多详细信息，请见迈克尔·尼尔森（Michael Nielsen）的《神经网络与深度学习》（NeuralNetworks and Deep Learning ）一书。

2 供有一定微积分知识背景的读者参考：反向传播是一种梯度下降算法，对于网络中的每个权重w ，它近似于“误差曲面”上最速下降的方向。这一方向是利用误差函数（例如输出和目标之间的均方差）在权重w 上的梯度计算出来的。例如，考虑从输入单元i 到隐藏单元h 的连接上的权重w ，在梯度下降最快的方向上对权重w 进行修改，修改的大小由传播到隐藏单元h 的误差值、输入单元i的激活值和一个由用户定义的学习速率来决定。如果想了解对反向传播的深入解释，我推荐迈克尔·尼尔森的《神经网络与深度学习》一书。

3 在一个具有324个输入单元、50个隐藏单元和10个输出单元的网络中，从输入层到隐藏层有324×50=16 200个权重，从隐藏层到输出层有50×10=500个权重，因此，总共有16 700个权重。

6 C. Johnson,“Neural Network Startups Proliferate Across the U.S.”, The Scientist , Oct. 17, 1988.

正如侯世达给我指出的那样，语法正确的版本应为“普通的、旧的、过时了的人工智能”（good old old-fashioned AI, GOOFAI），但是GOOFAI的发音和GOFAI完全不同。

03 从图灵测试到奇点之争_，我们无法预测智能将带领我们去往何处

1 Q. V. Le et al.,“Building High-Level Features Using Large-Scale Unsupervised Learning”, in Proceedings of the International Conference on Machine Learning (2012), 507-514.

2 P. Hoffman,“Retooling Machine and Man for Next Big Chess Faceoff”, New York Times , Jan. 21, 2003.

3 D. L. McClain,“Chess Player Says Opponent Behaved Suspiciously”, New York Times , Sept. 28, 2006.

4 M. Y. Vardi,“Artificial Intelligence: Past and Future”, Communications of the Association for Computing Machinery 55, no. 1 (2012): 5.

5 K. Kelly,“The Three Breakthroughs that Have Finally Unleashed AI on the World”, Wired , Oct. 27, 2014.

14 “强人工智能”和“弱人工智能”也分别被用来表示“通用人工智能”和“狭义人工智能”。这是雷·库兹韦尔使用它们的方式，但这与约翰·瑟尔最初的意思不同。

15 瑟尔的文章连同侯世达的令人信服的辩驳转载自 D. R. Hofstadter and D.C. Dennett, The Mind's I: Fantasies and Reflections on Self and Soul (New York: Basic Books, 1981)一书。

16 S. Aaronson, Quantum Computing Since Democritus (Cambridge, U.K.: Cambridge University Press, 2013), 33.

17 “Turing Test Transcripts Reveal How Chatbot ‘Eugene’ Duped the Judges”, Coventry University, June 30, 2015.

18 “Turing Test Success Marks Milestone in Computing History”, University of Reading, June 8, 2014.

19 R. Kurzweil, The Singularity Is Near: When Humans Transcend Biology (New York: Viking Press, 2005), 7.