我们必须为机器进行双重意义的编码：我们必须将意图写入法律，同时写入控制机器的软件。这听起来明确而简单，实际上却并非如此。因为只有将现在存在于第一层编码，也就是法律编码里的所有不清楚和不确定完全排除，我们才有写第二层编码，也就是软件代码的可能。而软件代码不容许语义的含混，代码必须明确表达意见，这样机器才能照着它说的做。那种模糊的存在，诸如人的自由或是直觉，在这里是没有容身之地的。机器不是自由的，因此在我们给它们做出的规定里，我们就没有了自由空间。
最近，4位美国科学家做了一次引起轰动的实验，让我们初步领略了与上述问题有关的困难。他们预先假设：“我们将很快进入这样一个时代那时，机器人将被编入程序，以遵守法律或贯彻法律的执行。”这些机器人可能是机器警察和军事机器人；也可能是装在每辆车里的电子行驶日志，一旦驾驶员超速，它便会自动开出罚单。但是怎样编写这样的系统呢?
为了得出结论，科学家们一共招募了52位程序员，要求他们各自写出对每次超速都能加以惩罚的软件。程序员们为此获得了一台车载电脑上的数据，数据记录了一次通过丘陵地带的超过一小时的行驶过程。程序员们同时获得了沿路不同的限速数据。此外，这些程序员们被分成了三组：第一组需要遵循法律原文；第二组遵照法律意图；第三组则由科研人员给出编程指令的细节，比如在发现违规情况时酌情处理。
微粒社会The Granular Society
138