人工智能伦理

图2.68 塔塔利亚的意思是“口吃者”

1534年，意大利数学家尼科洛·塔塔利亚（NiccolòTartaglia, 1499/1500—1557）和另一位意大利数学家洛多维科·法拉利（Lodovico Ferrari，1522—1565）都宣称得到了一元三次方程的解法。次年，二人公开比赛，塔塔利亚解出了法拉利出的所有题目，而法拉利却没解出对方出的题目。这是零知识证明（zero-knowledge proof,ZKP）的经典故事，很好地解决了知识产权的归属问题。

当算法成为商品时，零知识证明向买方提供了一种验证手段，而同时又维护了卖方的权益，使得知识不会因为验证而泄露。利用AI技术来保障交易双方的“诚信”，是大数据时代的一个趋势——“诚信”对商品社会来说太重要了。零知识证明不是数学意义上的证明，它是一种概率证明，即以大概率保证P和V不能相互欺骗，并且V无法获取任何相关的知识或信息。

例2.27 假设孔乙己是一个红绿色盲，在他眼里，一红一绿两个颜色而其他无差异的球没有任何区别。要向孔乙己证明这两个球的颜色不同，只需让他把球藏在背后，然后随机出示一个球，接着重复足够多次下述过程。

（1）把球藏在背后；

（2）随机出示一个球，问“我换球了吗”。

因为孔乙己知道是否换了球，所以如果假设“两个球颜色相同”成立，则n次都猜对的概率是2⁻ⁿ。当n很大时，这个概率非常接近于零。与此同时，孔乙己无法获知哪个球是红色的。

CAPTCHA验证

为防止恶意注册，系统经常出一些识别的问题来验证注册者是不是机器，即“全自动区分计算机和人类的公开图灵测试”（ Completely Automated Public Turing test to tellComputers and Humans Apart, CAPTCHA），俗称“验证码”。例如，识别物体或者背景带有噪声的一串变形了的字符，挑出没有上下颠倒的图片，将拼图块移动到正确的位置，等等，甚至还有识别加理解的验证。一些CAPTCHA除了达到验证的目的，还“顺手牵羊”地收集到了高质量的人工标注数据。

VERIFY

图2.69 与时俱进的CAPTCHA验证：一些奇葩的CAPTCHA不仅打败了所有的机器，还难倒了部分的人类。这类CAPTCHA验证是否合理呢？更广泛地，AI验证要不要规范化，甚至加入伦理约束

随着AI技术的进步，一些验证变得过时。例如，光学字符识别（optical character recognition, OCR）技术对付变形字符已经绰绰有余。我们不可能用此类幼稚的问题来考人类，它们之所以针对机器是可行的，是因为现有的人工智能在很多识别和理解的问题上达不到人类的水平。然而，人类还能维持多久“我不是机器人”这份骄傲？

工作量证明

太容易得到的不被珍惜，甚至会遭到滥用。为了筑高获取资源的门槛，系统会制造一些障碍来“刁难”用户的请求。通俗地讲，就是服务只针对那些诚心诚意的请求者。如何证明自己有诚意呢？就是花些气力做一件事，譬如解一道题。如此一来，拒绝服务攻击⁽⁸⁾、垃圾邮件发送的代价就变大了。

工作量证明（Proof of Work, PoW）是一种展示“诚意”的零知识证明。一般地，工作要有一点难度，同时又必须是可行的，并且易于验证者或服务提供者进行检查。它的目的与CAPTCHA验证完全不同，后者旨在把机器“拦在门外”而让人类通过，前者则是阻挡恶意攻击而放行正常请求。

例2.28（工作量证明）sha256是一类哈希函数，它把任何输入的字符串都映射为一个长度为64的字符串，其中共有16种字符（数字0∼9和字母A∼F，大小写不敏感）。它可近似地看作是单向函数，输入稍作扰动，其结果都会大相径庭。例如：

为了检验用户的“诚意”，在其服务请求被批准之前，请先求解一个这样的问题：ethics后面跟一个什么自然数使得它的哈希值的前四位是0000？一般只能依次尝试，当试到138763时，用户得到了一个解。

日

用户找到这个解花费了一点时间，然而系统验证它却几乎不费吹灰之力，瞬间就完成了。如果是恶意的频繁请求，每次都要解一道随机生成的题目，这样攻击的成本骤升，就变成一件得不偿失的事情了。

如果问题升级为：ethics后面跟一个什么自然数使得它的哈希值的前五位是00000？即约束条件变得更强，搜索所用时间就会更长（答案是1059763）。巧妙地将一个复杂问题分解为一些工作量证明，通过“众筹”的算力各个击破它们，从而一举两得地解决了原问题，同时还验证了用户的“诚意”。这个美好的“双赢”的愿景，会不会成为新一代的工作量证明？

数字身份代理

当一个具有很高社会信誉的国家机构G作为第三方能够为个人身份背书，此时将一些个人隐私让渡给这个数字身份代理机构G是利大于弊的。恰是因为缺少这样的机构，个人隐私才会被大数据公司以各种贴心的服务为诱饵轻轻松松地获取到。为了保护个人隐私，同时不影响大数据公司的各种服务，直观上，个体、代理机构G和大数据公司的关系可由图2.70描述。机构G受委托定制管理个人信息（包括注册/注销账号），它与大数据公司之间的合作是更专业的，更利于营造一个健康的数字世界。