如何训练神经网络成为托尔斯泰？
正是对真正理解语言的能力的追求，推动着脸书和谷歌的人工智能实验室中的语言研究。史蒂夫对人工智能的研究方法是“自上而下”的，需要他在理解语言逻辑和洞察最佳答案之间进行平衡，但脸书和谷歌等公司的人工智能实验室使用的是“自下而上”的方法，他们的目标是训练神经网络来学习语言。
“神经网络”（neural network）这个术语指的是一系列受人脑工作方式启发的算法。人的大脑由数十亿个相互连接的神经元（interconnectedneurons）组成，这些神经元通过电信号和化学信号来构建我们的意识和思维。神经网络是对这一生物学过程的高度抽象和模仿。它们以相互连接的虚拟神经元形成的网络的形式来表示数据，输入端接收有关外部世界的数据，输出端产生执行某个动作的决定。对于语言问题，输入的是作为数据的词语，而输出的动作是生成词语序列中的下一个词语。从词语输入到动作输出的过程中，这些词语通过了被称为“隐藏神经元”（hiddenneurons）的连接。这些隐藏的神经元决定了如何将输入词转换成输出词。
为了理解这种“自下而上”的神经网络方法，我要回过头看我自己的猫狗故事生成器。在以前的版本中，我采用了“自上而下”的设计方法，构建了解决问题的逻辑门。现在让我用“自下而上”的方式来构建一个神经网络，在这个神经网络中，这些词语会被传输到一个隐藏层进行处理，处理结果会被传递给输出层，后者会把隐藏层的结果进行整合，然后输出下一个词。
在我的神经网络创建之初，隐藏神经元之间的连接是随机的，输出的词语没有句式结构【如图15.2（a）所示】，典型的输出就像这样“狗咬咬追猫猫狗咬追狗追追狗追猫……”。
第三部分 人工智的未来类了吗？
191