AI经济：机器人时代的工作、财富和社会福利（被科技洪流裹挟的每个人，都需要在AI时代做出自己的选择）

有人提议允许政府访问私人加密信息。这引发了激烈讨论。一群学术计算机科学家已经得出结论——这些提议在实践中不可行，它将带来相当多的法律和伦理问题，并且在互联网漏洞造成极度严重的经济损失时，会使安全进程倒退。假使政府可以访问每个人的私人信息，那么黑客只需要攻破政府的防火墙就能够大规模访问所有这些信息。

法律与保险问题

即便没有任何人试图限制或阻止机器人和AI的发展，现实中也需要监管和法律框架来管理它们的运作。首先面临的问题涉及了机器人和AI对人类造成伤害的能力。这里存在一个关于哪一方应承担此类伤害的责任的问题。责任属于机器人的用户、制造者还是设计者？还是说上述任何一方都不承担责任？所有与机器人和AI互动的公众成员是否都要为自己的命运负责？

《罗马法》以与奴隶相关的法律形式提供了可能的答案。若有奴隶发生了意外事故或对他人的财产造成了损害，那么相应的责任会落在该奴隶的所有者身上。至于法律责任，我们是否可以将机器人和AI当作罗马法之下的奴隶那样对待？（当然，一旦奇点出现就不行了，不过那必须要读到后记。）

以对我们来说是老生常谈的无人驾驶汽车为例。当这些车辆发生意外事故时，谁应该来担责？在与无人驾驶汽车互动时，其他人类驾驶者应承担哪些义务？对保险公司有何影响？对这些问题都将需要谨慎起草相关法律。

这不仅仅是一个可选的额外工作。如果法律上没有明确规定，AI应用将受到严重抑制。这可能会导致AI的技术可行性与实践中的应用程度之间出现相当大的差距。

这个任务只能由政府来承担。确实，对于鼓励AI应用普及，如果说政府有一件事情可做的话，那就是明确法律和保险责任。皇家放射医师学会告诉英国上议院人工智能特别委员会：“在AI的广泛应用成为现实之前，法律责任往往被表述为需要克服的主要社会障碍。”^[17]

不过也存在私人行动的空间，以确保安全并提高公众对AI的接受度。2016年6月，有报道称谷歌DeepMind将与牛津大学的一些学者合作开发“切断开关”（Kill Switch），即一堆代码，它将确保AI系统可以“被人类监督者反复、安全地中断，而该系统不学习如何避免或操纵这些干预”。^[18]

为了既能确保安全又能增强公众的信心，保持透明必不可少。例如，患者不太可能准备好接受某种算法对数据进行分析后得出结果的治疗方案。他们很可能希望获得合格专家给出的明确理由。但是，要让专家的观点体现出价值，那么通过算法得出结论的过程必须要让患者理解。

布里斯托机器人实验室（Bristol Robotics Laboratory）的艾伦·温菲尔德（Alan Winfield）教授告诉英国下议院科学技术特别委员会，能够“检查算法”很重要，“这样的话，假如AI系统做出了被证明是灾难性错误的决定……人们就可以调查做出该决定的逻辑”。^[19]

微软的戴夫·科普林（Dave Coplin）曾对该委员会表示：“在AI领域，人类每次编写算法时都会将自身持有的所有偏见嵌入其中。”他强调，需要“用心留意组织的哲学、道德和伦理……创建我们每天愈发依赖的算法”。

有趣的是，现在越来越多的人认识到需要监管人类与机器人和AI之间的互动，不是因为其造成伤害的能力，而是一些人和机构（尤其是警方和行政部门）可能企图将自己的错误归咎于机器人和AI。2018年9月，英国皇家联合服务研究所的一份报告指出，应用算法来决定嫌疑人是否应该被羁押的情况日益增多，这方面缺少“明确的指南和实践准则”。

数据的力量

有关数据的更多法律与伦理问题也会出现。AI的很多有益应用均源于机器学习，它依赖于对巨量数据的处理、分析和操控。所以有了“大数据”这一表达。这些数据涉及规模巨大的个人信息，包括个人的偏好、习惯、行为、信仰和关系。^[20]收集并分析这些数据能提供有关个人信息的来源，这很可能会改善推销给他们的商品和服务的供应信息质量。但这或许很容易侵犯他们的隐私，损害他们的权利。

在进行汇总和分析时，这些数据可提供关于群体行为的信息来源，这对于一些试图调整其上市产品的企业来说是非常宝贵的。但除此之外，它也会带来影响、操纵选举的可能性。贯穿整个问题的是，谁“拥有”数据并具有将数据传递给其他潜在用户的能力与法定权利，天知道会有什么结果。

这里存在国家采取行动的合法理由。北卡罗来纳大学教授泽伊内普·图菲克希（Zeynep Tufekci）的研究领域是技术的社会影响，正如其所言：“数据的私密性根本无法逐人协商，尤其在不存在有意义的知情同意时。人们无法理解他们的数据将揭示什么，特别是在与其他数据相结合的情况下。就算是公司也不知道这一点，所以它们无法通知任何人。”^[21]

用户数据的转售是主要问题。在《电子商务时代》（E-Commerce Times） 的一篇文章中，帕姆·贝克（Pam Baker）说道：“数据货币化是脸书的商业模式。脸书和其他一些技术公司的存在只是为了收集并出售每个人的数据，越来越详细地暴露用户的生活状况。”^[22]

剑桥分析公司（Cambridge Analytica）最近卷入一起丑闻，它从脸书获取数据，据说试图利用这些数据影响选民的意见。一名剑桥大学的学者在工作之余开发了一款脸书应用，收集了大约8,700万个脸书用户的数据。^[23]随后，该公司开发出了“复杂的心理分析和个性化算法”。^[24]然后，政客可以雇用该公司来设法影响选民的意见。剑桥分析公司的总经理告诉一名卧底记者说：“基于事实进行竞选活动的效果不好。”与之相反，他们认为，“实际上，这一切只与情感有关”。^[25]

对有关数据可能带来的后果的恐惧开始影响人们的行为。全球市场研究公司英敏特（Mintel）开展的研究发现，71%的英国消费者积极避免在各个公司创建新账号。实际上，英国人最担心其财务数据的安全性， 87%的人声称他们对与各公司分享这些细节感到担忧。由此，英敏特公司的高级技术分析师阿德里安·雷诺兹（Adrian Reynolds）表示：“使用联网设备访问网站和App的行为日益增多，并因此产生了大量共享的个人数据，使消费者很难一直掌握事态动向。对很多人来说，限制更多的暴露是他们的首选。”^[26]

虽然目前只有有限的政策和法律专门针对AI，但已经存在旨在保护个人数据的措施。欧盟的《通用数据保护条例》（General Data Protection Regulation）于2018年5月出台，“其目的在于保护和增强所有欧盟公民的数据私密性，并重塑整个地区的组织处理隐私的方式”。根据《通用数据保护条例》，只有被视为绝对必要的数据才会由企业保留，若发生数据泄露事件，相关企业必须在72小时内通知有关当局及其客户。未能遵守该条例的组织可能会被罚款，最高可达年度全球营业额的4%。^[27]

人类的自由和尊严

AI对人类的自由和隐私构成了威胁，这令人们为之担忧。政府可利用具有AI功能的监控摄像头网络及对互联网活动的监视来实施大规模监视措施。

例如，欧盟为名为INDECT的研究项目提供资金，该项目由几所欧洲大学开展。该项目鼓励欧洲科学家和研究人员开发能够自动侦测威胁的解决方案和工具。一些人指责INDECT项目滥用隐私信息。在为《电讯报》（Telegraph） 撰写的一篇文章中，伊恩·约翰斯顿（Ian Johnston）将其叫作“奥威尔式的AI计划”。人权组织“自由”（Liberty）的前负责人沙米·查克拉巴蒂（Shami Chakrabarti）称，这种大规模监视技术的引入对任何国家来说都是“邪恶的一步”。在欧洲范围内，这“确实令人不寒而栗”。^[28]

不仅欧盟、英国和美国在大规模监视方面表现出兴趣，亚洲也对其投入了大量资金。新德里NLU通讯治理中心研究主任钦马伊·阿伦（Chinmayi Arun）谈到了AI对印度的公民自由和民主造成的威胁。她说道：“在像我们这样的民主国家中，公民与国家之间的权力平衡真的很微妙，AI极有可能打破这种权力平衡，使之有利于国家。”^[29]

从另一个完全不同的角度来看，人类必须关注机器人和AI的权利和福利吗？一些人已经开始考虑这样的问题。机器人和AI没有意识，它们无法思考或感受，它们可能做出的任何“决定”最终都来自它们的人类创造者和所有者。这是当前的“游戏”状态。所以，就目前情况而言，机器人和AI不会引发任何特别的道德或伦理问题。

当然，事情并不一定始终如此。一旦机器人和AI能够思考、感知并做出独立的决策，那么一些严重的伦理问题就可能会出现。不过我们可以将对这类棘手问题的检视推迟到后记中，那时奇点就快要造访我们了。

AI对政治结构来说意味着什么

直接相关程度很大的是对民主的潜在影响。很多AI专家已经得出结论，机器人和AI的进步将改变社会形态，使大多数精英都过上“游手好闲的休闲追逐者”（Lumpen Leisuriat）的生活。社会结构将变得类似于中世纪时期的样子，只不过那时农奴在干活。事实上，如果他们不干活，领主就没有财富或收入。相比之下，在现代，大众不工作，这对精英阶层的财富和福利不会产生太大影响。

机器人和AI将成为一切财富和权力的来源，那么谁会拥有并控制由其组成的军队？许多AI梦想家提出，这必定会导致民主的终结。他们说，未来将是某种形式的独裁统治，最好的情况是政府表现为寡头政治形式。

正如奈杰尔·沙德博尔特（Nigel Shadbolt）与罗杰·汉普森（Roger Hampson）所说的，“……问题不在于机器可能从精英手中夺走我们对生活的控制权。问题是，我们大多数人或许永远也无法从占据指挥所的人手中夺取对机器的控制权”。[30]

这将是具有讽刺意味的事情，因为万维网和随后的很多数字开发活动均源于极端自由主义精神。互联网的创建者蒂姆·伯纳斯-李（Tim Berners-Lee）爵士在其发明中没有确立任何专利或产权，因为他希望它是免费的。互联的世界应该是社会的一股平衡力量，应该起到反独裁、反等级制度的作用。