人工智能时代：破解人机共存密码（套装共10册）

工具理性之问

在技术进步面前，人们没有选择，只有奋力前行。因为技术不是外来者，正来自人类生产创造本身，和人类的存在不可分割。

先哲曾经仔细讨论技术或者工具与人类的关系。马克思首先承认资本主义和工业化短时期创造出了超过人类过去几千年创造的财富总额，总体上改善了人类生活。但接着他谈到了“异化”，意思是人类创造的东西反过来奴役人类，当然，不是所有的人类。另一位大思想家马克斯·韦伯则认为，资本主义的货币化及其处理一切事物和关系时候的“算计”化，创造了所谓的工具理性。工具理性化原本许诺给人类“轻盈的斗篷”，结果却成了“铁衣的囚笼”。

工具将人类从“自然的暴政”下解放，但工具本身、工具与社会关系的结合，又造成新的不平等。谁垄断了工具，谁就垄断了经济政治的命脉。曾经匮乏但是平等的原始社会，因为工具，分裂为垄断“智能”的统治阶层和不拥有知识的被统治阶层。

蒸汽机加速了工业革命的车轮。早在埃及的托勒密王朝时期，寺庙就已经运用蒸汽动力，但仅仅用来升起神像，制造神迹。这正是上述垄断智能的缩影。只有在资本和智能社会化以后，蒸汽机才能充分发挥潜力，给文明注入强劲的动力。

工业时代在更高的层次重构了智能和劳动的分裂。大规模制造的一大弊端，就是思想和行为的分离。创新任务由脱离生产的科学家和工程师完成，生产工作则由非熟练工人完成。

云社会和物联网提供了把实践劳动与脑力劳动结合起来的可能。

在传统工业体系中，工人是“标准化”的工具，尤其是流水线上的工人，只能被动按照指令完成规定动作。“工作”异化了，不再是一种创造性的行动，而是消极的机械化行动。如果我们大胆设想，未来人工智能或许可以提供技术性解决办法。比如考虑到劳动力的多样性，超越流水线，创造一种智能化的生产流程，根据劳动力状况，自动适应、自动调整，不会因为某个环节的工人不标准就影响全局，同时给工人个体发挥的机会。企业的智能运营系统通过网络来连接一线工作者与科研人员和管理者。随时记录、定位和分析工作者的操作习惯、状态，给出优化建议，使工作和学习同步完成。

中国产业链完整、工作场景多样、人才层次丰富，这是宝贵的财富。科学家和工程师应该有意识地深入生产场景，把智能技术与工业实践和生活实践结合起来。

机器人的无用之用

人工智能还给我们带来另一种突破工具理性的启迪。

回想一下文艺作品里那些陪伴我们童年的机器人，从铁臂阿童木到“大白”，它们无不超越了人类最初给它们设定的工具属性，奋力追求自己的独立“人性”。

在《钢铁巨人》里，机器人为了拯救人类村庄，选择与原子弹同归于尽。它在最后一刻说的话是：“我知道自己要做什么了，我要做Super man（超人）！”机器人本身能否形成人性甚至超越人性，是个有趣且有意义的话题。

多梅尼科·帕里西所著的《机器人的未来：机器人科学的人类隐喻》不只是研究机器人，更把机器人当作一种方法，来反思人类科学的工具性，指出人类自身的方向。

科学的一大基本特征是“对象化”——人与自己的研究对象分离，完全“客观”地观察、记录、分析对象，尽量不带入观察者自身的因素，诸如情绪、立场等。这套方法是人类认识自然世界的有力工具，但是在用于认识人类自己的时候却遇到了困难。

首先，人作为自己的研究对象，无法把研究者和研究对象完全分开，人之精神就是由自己的情绪、动机、愿望、认知等组成的。

其次，关于人类行为和人类社会的研究理论基本是用文字而非自然科学中的数理符号来表达的。文字作为表达科学理论的工具有很大局限性：意义不准确、下意识地含有研究者的价值观和情感取向、难以数字化等。文字不是透明的中间工具，文字本身就构造了一层“现实”。文字甚至是数字，其本质都是符号，符号与现实总有差距，正如关于颜色的有限词汇是无法完全表达现实中无限多种类颜色细节的。文字甚至会出现没有现实对应物的情况，比如“信仰”“目标”等这类词汇。

大数据和数学方法的发展使我们已经可以把很多人类学现象数字化，但依然不足以研究人类。帕里西说：“（这些方法）甚至未曾试着去识别隐藏于这些行为现象和社会现象之后的机制与过程，更不要说去解释了。 ”

人工智能为表达关于人类的科学理论提供了新的可能，帕里西提出了“作为人工构造的理论”（theories as artefacts）——创造人工构造（类人机器人）来代替研究。这个理论基于这样一条原则：“无论X是什么，要理解X，就必须以人工对其进行再现。”如果你的理论不好，人工构造就无法造出来。如果你能造出类人机器人，就说明你的研究成功了。从根本上说，这是把研究和实践统一了，研究就是实践，实践就是研究。这个过程除了可以克服前面所说的人文学科问题，还能把多种学科诸如社会学、心理学、生物学、政治学、语言学、经济学、文史哲等整合在一起，打破目前各类学科机械分割的局面。

帕里西认为，目前的机器人或者人工智能与人的区别在于，人的思维中包含了动机与认知两种模式。人的任何行为都有动机，比如为了吃喝与生存、为了安全与繁殖、为了荣誉与理想等。而现有的机器人只有认知，无所谓动机，因为它的目的是由人设定的。机器人只是工具，为了满足人的特定需要而存在。

但是机器人可以是人的影子，为此他区分了两类机器人：实用机器人和类人机器人。后者正是科学家需要的。前者只有认知思维，后者却设定了动机，比如设定机器人需要定期获取能量以求得生存。具体做法是在计算机中构造一个机器人程序，可以为它装配饥饿传感器，令它在一定的虚拟空间里寻找食物和水。食物用食物令牌代替，水用水令牌代替，两种令牌分布在不同区域，然后让机器人自主决定获取这些令牌的路线和顺序，找不到就会死亡。以此观察机器人如何做出决定。

同理，可以设定机器人需要规避一些危险令牌以保障安全，需要通过与其他机器人交换编码而产生新的后代（繁殖），甚至设立财产观念、遵守规则的动机等。观察在这些动机的驱动下，机器人如何进化出类人的社会意识、语言、文化、情感乃至艺术和宗教。比如，制造男性机器人和女性机器人，并赋予机器人保护后代机器人的动机，观察它们如何发展出家庭观念和实体。

科学家这样制造的机器人可能没有任何实际应用价值，比如会犯错的机器人，会生病的机器人，会做梦的机器人，会难过、会高兴的机器人……而工具是不应该犯错误、开小差的，这些是人类的特性。在这种思想方法下，制造人工智能的过程不再只是制造服务于人类外在需求的工具，而正是人类了解自己的过程。

这样的研究已经有了一定成果，开拓了过去的心理学、社会学从来没有过的视野。

不过读者可能会看出一点点“危险”，类人机器人会不会最终演化出自我意识？它如何处理与人类的关系？这种研究会被宗教人士看作是一种僭越吗？因为科学家在做上帝做的事情——造人。不过科学研究与宗教不同，本质是对人类自身的对象化研究。生命就是不断地“生成创造”。工具理性问题在这里遇到了新的场景：在机器人内部实现对工具理性的超越。归根结底，这是借助人工智能展开自我反思，同时又指导人类发展人工智能，对我们思考机器人如何融入人类社会，如何参与人类的文化、社会生活都会有丰富启发。

基督教新教把人类看作上帝实现自我意志的工具，而人类的自我反思总是在克服这种工具性。人不应该只是工具手段，人应该是目的和手段的统一，这一点可以在人工智能身上付诸实践。

二十三条军规

为“类人机器人”设定伦理和规则看来也是必要的。

在2017年1月5\~8日举行的“Benificial AI 2017”会议上，1980名来自产业、学术和研究界的人工智能相关人士共同制定了“二十三条原则”，宗旨在于确保人工智能的健康发展，人人都能从人工智能中受益。这二十三条原则分为研究问题、伦理价值观和长期问题三个_部分。^[2]

研究问题方面，提出人工智能研究的目标是创造有益的智能，而不是让它像经历生物演化一样没有确定的发展方向。投资人工智能应该附带确保该研究是用于发展有益的人工智能，包括计算机科学、经济学、法律、伦理和社会研究中的棘手问题，例如：我们如何使未来的人工智能系统具有高度鲁棒性^[3]？这样才能够让它们在没有故障或被黑客入侵的情况下做我们想要它们做的事情。我们如何通过自动化实现繁荣，同时不打破资源和目的的平衡？我们如何更新法律制度实现更大的公平和更高的效率，跟上人工智能的发展步伐，管控与人工智能相关的风险？人工智能应该具有怎样的价值观，应该具有何等法律和伦理地位？

其他研究问题包括人工智能研究人员和政策制定者之间应该进行有建设意义、健康的交流；培养合作、信任和透明的开发文化；避免竞赛，避免在安全标准方面进行削减。

伦理价值观方面，二十三条原则提出了很多愿景，包括人工智能系统的安全，故障透明度（如果人工智能系统造成伤害，应该可以确定原因）；由机器人做出的任何涉及司法决策的行动都要透明可解释，供主管人权机构审核；设计者与使用者要担起道德影响责任；要确保高度自治的人工智能系统的目标和行为与人类的价值观相一致，尊重人类的尊严、权利、自由和文化多样性；保障个人隐私，不仅人工智能系统能够分析和利用人类产生的数据，人类也应该有权获取、管理和控制自身产生的数据；不得不合理地限制人类真实或感知到的自由。人工智能带来的利益应当是普惠人类的；由人类选择如何以及是否委托人工智能系统去完成人类选择的目标；人工智能的力量应当尊重和改善社会健康发展所需的社会和公民进程，而不是颠覆这种进程；避免人工智能军备竞赛。

长期问题方面，建议在没有达成共识的情况下，避免对未来人工智能能力上限做出较为肯定的假设；通过相应的关怀和资源对其进行规划和管理，应对风险；对于那些不断自我完善或通过自我复制快速提高质量或数量的人工智能系统，必须采取严格的安全和控制措施。

最后一条是“共同利益”：超级智慧只应该为广泛共享的伦理理想服务，为了全人类而不是一个国家或组织的利益而发展。

二十三条原则，这个名字不由让人想起黑色幽默文学代表作《第二十二条军规》，那是一条不可能完成的规则。看起来，这二十三条原则更像是二十三条呼吁，提出的是问题而不是解决方案，代表的是愿望而不是已经实现的现实。其中涉及很多价值观问题，科学家倡导发展机器人要遵循人类的价值观，这是理所当然的。不过这里就会有三个问题：

第一，这里制定的价值观基础在于把机器看作工具，要求人类在使用工具时不得损害人类利益。实际上，在任何工具的使用上，人类都没有完全做到这一点，比如军备。不过确实可以尽力加以限制，比如军备条约。

第二，人们之所以前所未有地郑重其事，是因为意识到机器人不同于以往的工具。普通工具没有生命、没有意识，完全听命于人的操作。但机器人如果具有了类人意识，那么人类怎么对待它们？显然二十三条原则并未考虑这个问题。人类拒绝奴役人类，把人当作工具就是一种奴役，那么对机器人呢？如果人类的价值观就是让机器人做工具，类人机器人会认为这种价值观有尊严吗？

第三，人类的价值观本身就存在各种冲突，众所周知，制定这些原则的与会者基本属于硅谷阵营。硅谷阵营在美国2016年大选中的态度及其价值观就和特朗普阵营发生了激烈冲突，他们制定的规则看上去很美，但在现实中未必符合很多人的价值观。

二十三条原则表达了人类良好的愿望，相当于科学家为机器人设置了一套“政治正确”。考虑到“政治正确”在当下美国的尴尬遭遇，我们要明白，人工智能的“政治正确”不是一蹴而就的，集体签名是一回事，做起来是另一回事。价值观不是静态的观念，而是在博弈中生成。价值观也不可能孤立地存在于某种群体身上，比如机器人的价值观实际上是人机的价值观。未来人工智能可能将加入这个博弈，形成新的、动态的人机价值观。我们需要在实践中不断摸索人工智能与人类发展的健康之路。二十三条原则起到了探路者的作用。

现实的法律问题

虽然“算法代替律法”的前景已经出现在不少科技人士的视野里，但到目前为止，法律依然是调节人类社会关系的主要手段。我们需要考虑，人工智能时代的法治会遭遇什么挑战，应该如何应对。

人工智能不仅仅是技术问题，而是整个社会运作方式改变的问题。《少数派报告》这样的电影已经预见了事前的预防性管理会出现。深度学习技术的最大作用在于预测，这也给以往法律思维带来新的启迪。比如法律将从事后补偿模式向事先预防模式变化。不过这个过程将非常不确定。

以算法的复杂性来说，技术界区分了强人工智能和弱人工智能。有学者认为，人工智能在技术认知上没有问题，但在法律上很难按照智能程度给出精确的标准。因为法律应对复杂世界的方式是确立一般性的简单规则，在概念上对社会个体进行抽象假定（如行为能力），而非针对特殊主体，否则规则体系本身将变得异常复杂，难于理解和操作。生产资料之间的信息变得越来越对称，但作为信息匹配中介的人工智能却变得更不透明，其规则设计和运作从属于用户甚至开发者都无法理解的秘密状态，这都回到了法律如何处理与代码的关系问_题。[4]

具体体现在法律抽象化与技术黑箱化之间的冲突。比如，“快播案”这样一个涉及互联网技术而非人工智能技术的案件里，法律责任认定的过程很漫长也很艰难。监管者或法院并不想深入算法内部了解造成事故的技术原因是什么。只要法律认定这一黑箱应当在合理范围内得到控制，事故就可以避免，黑箱提供者就应当承担责任。在这种情况下，我们可以预见，保险（甚至是强制险）就成为那些事故发生概率小但潜在损失巨大的市场的不二选择。

涉及技术的航空、医疗保险市场已经十分发达，可以预见保险将会延伸至更多由人工智能驱动的服务行业。

在另一方面，也许真要靠算法的顶层设计来防止消极后果。人工智能技术可能不只是理工专业人士的领域，法律人士以及其他治理者也需要学习人工智能知识，这对法律人士和其他治理者提出了技术要求。法治管理需要嵌入生产环节，比如对算法处理的数据或生产性资源进行管理，防止造成消极后果。例如，征信系统中禁止收集种族、性别、宗教派别、政治倾向等歧视性信息；在声誉系统中打击网络推手刷单，避免虚假数据；通过地域性监管限制网络专车及其司机的资质等。法律机器人本身也是一种辅助人类面对复杂规则做出判断的好办法——用技术进步来解决技术带来的问题。

与人工智能相关的法律问题可能会很多，这里简单谈谈日常生活中人们比较关心的隐私问题。

有人说，智能时代，人们进入了无隐私社会，因为一切数据都处在互动中，哪怕是心率都被可穿戴设备分享了。未来的狗仔队也会智能化，运用数据分析和无处不在的视觉监控寻找明星的蛛丝马迹。在智能社会如何善待隐私？可能要突破原先的观念。隐私当然是现代个人人格的一部分。现实中，人们强调保护隐私的同时，也热衷记录隐私，甚至传播隐私。一切网络八卦行为都围绕隐私展开。没有隐私就没有独立个体，但在数据时代，绝对的隐私又会让个人无法被沟通和识别。最好的办法还是制度与技术手段的突破，比如建立统一的数据保护平台，让个人可以了解自己的数据被政府、公司使用的状况，避免单向过度的使用。

数字权力的重新分配

已故著名波兰裔英国思想家、社会学家鲍曼认为：数字时代带来了比监控更麻烦的问题，权力与政治在技术之下分离了。传统的政治囿于解决一个国家内部的问题。而跨国资本及其政治力量，却通过技术蔓延各个领域，制造出更多不确定性。同时，普通人对技术和官僚的信任在这种矛盾之下消解。权力随着资本和数字网络流动起来，传统政治却对约束它们无能为力。作为对全球化资本权力的反弹，欧美诸国“部落主义”重新崛起。这也就是英国脱欧、孤立主义在美国兴起的大背景。

鲍曼描述了西方国家的情景。但不确定性是新时代普遍存在的状况。

政治、经济、文化、传媒权力都会被数据智能渗透。这个不难理解，金融资本借助数字网络、智能投顾、闪频交易等技术在全世界腾挪闪移、惊鸿遍野。推特等社交媒体催化了中东国家的动荡，数字权力越过主权国家的界限，纵横捭阖。甚至以往向外输出数字权力的美国，也开始担心被跨国数字权力侵袭。阿桑奇和他的维基解密作为一个非政府组织，屡屡抛出政府黑材料，让美国政府非常头疼。黑客凭借网络技术获得了威慑美国统治阶层的能力。美国政府甚至指控俄罗斯使用黑客干预了美国2016年大选，这种紧张感是前所未有的。这既说明数字权力面前无人可以幸免，同时也预示着，从个人到国家，都有必要加紧适应数字智能时代。

数字权力的形态如同福柯所描述的现代权力，并非中央集权式的环状结构，而是错综复杂、多中心存在的网状结构。数字权力弥散于这张网中，难以捉摸。

从国家层面讲，需要在顶层设计中做好设置，防止政府滥用数字权力。而恶意挑战国家与社会正常运行的数字权力也已经在现实中出现。

彭博周刊2014年曾报道了一位哥伦比亚黑客，自称操纵了9个拉美国家的投票选举，手段包括窃取数据、安装恶意软件、在社交媒体上伪造大规模支持或反对的民意。