对抗的思路创建了三个神经网络，按密码学实验的惯例命名为爱丽丝（Alice）、鲍勃（Bob）和伊娃（Eve）。它们的任务是学会如何加密信息。爱丽丝和鲍勃都知道一个数字——密码学术语中所说的“钥匙”———而伊娃却不知道。爱丽丝要对一串字符进行加密操作，然后发给鲍勃和伊娃。如果鲍勃能解密信息，爱丽丝获得加分；而如果伊娃解密了信息，爱丽丝就要被扣分。在经过数千次迭代之后，爱丽丝和鲍勃学会了在伊娃无法破译密码的情况下通讯：它们发明了一种私人加密形式，就和现在用的私人电子邮件一样。但关键的是，就如我们看过的其他神经网络一样，我们无法得知这种加密机制，伊娃看不到的我们也同样看不到。机器在学习保守它们的秘密。
艾萨克·阿西莫夫（IsaacAsimov)在1940年提出的机器人三大定律（Three Laws of Robotics）规定：
1.机器人不得伤害人类，或因不作为而使人类受到伤害。
2.机器人必须服从人类的指令，除非这指令与第一条定 律相冲突。
3.在不违反第一条和第二条定律的情况下，机器人必须保护自己。35
我们也许可以加上第四条：机器人—或者其他形式的智能机器—必须能向人类解释自己。这一定律得插到其他定律前面去，因为它并没有形成对其他条款的约束，而是一条基本规范。但这条定律已经（在我们的设计下不可避免地）被打破了，因此“安全出自警惕的双眼”，伦敦交通局，2002其他定律也迟早会被打破。我们得面对这个事实，不用等到未来，我们现在就已经理解不了自己所创造的东西。这种不透明性会永远不可避免地指向暴力。
157
新黑暗时代|科技与未来的终结
168