我们的未来：数字社会乌托邦

国家受经济利益的主导并不新鲜。从18世纪晚期到19世纪末，在英国这种情况也不例外，对英国东印度公司来说，谁戴上王冠都一样。正如对今天的德国大企业来说，谁当联邦总理也并无差别。不同的是，最强势的大企业不再是单一国家的企业。GAFA这类企业在很大程度上是无国籍的，甚至是超越国家层面的合作。

在这种情况下，国家和公民的关系问题，与过去几十年相比变得完全不同。未来，公民如何尊重国家？国家如何保护公民？这两个问题是相互依存的。关键在于“信任”——是否相信国家能够保护我们免受不道德的商业利益的侵害，是否相信国家不会超越保护界限来监视我们？只有在这两个方面都能信任这个国家，公民才会相应地尊重国家。

在过去的几十年，公民与国家的关系，特别是公民与负责国民思想教育的党派的关系，一直在日渐式微。相反，很多人将自己作为消费者的态度转移到对国家的义务上。他们首先想到，“这对我有什么用处？”或者“我能从中得到什么好处？”至于当代的重大问题，他们非常期待依赖技术寻求解决方案。所以解决难民问题应该是国家的责任，最好用数学的办法规定接受难民的上限，这样一来所有问题就迎刃而解了。他们以为同样的办法也适用于解决环境问题或者社会正义。

任何期待在政治上获得便捷解决方案的人在很大程度上已经放弃了政治思想。然而这正是社会工程解决方案的切入点。预防人类犯罪是严峻而漫长的过程，用传感器和摄像头全面监控一座城市，简单而又智能。仅仅出于这个原因，“智慧城市”成为许多人共同的愿景之一。传感技术可以将捕获到的城市及周边地区的所有数据存储到云端大数据库以供所需者使用。城市居民及其周边的科技进入永久互动模式。人周围的物会变得有“人性”，从另一个角度看，人也成为技术基础设施的一部分。

智慧城市的想法很有诱惑性，它使许多人沉浸于梦想。人和物的网络化会使经济更加有效发展，让数以千计的新商业理念如雨后春笋般涌现。人所做的一切，以及人所知道的一切，都留下了有助于“优化”人所在城市的数据。整座城市成为一个持续不断的学习系统，垃圾车的行走路线不会不合理，图书馆不会有借不出去的书籍，百货商店不会算错金额，任何时候都不会有能源浪费。对于全球运营的公司来说，这将是一个巨大的商机。如果某个城市想要成为一座智慧城市，可以从IBM、思科、西门子、瑞典大瀑布电力公司中任选一家，公司会为城市客户提供长期的最佳服务方案。

还可以选择获得欧盟的支持并与大学合作，例如柏林、维也纳或巴塞罗那。这类项目的核心问题一直存有争议——到底应该由谁做实际决定，城市应该在哪些领域并在多大程度上变得更智慧？德国当代技术哲学家阿尔敏·格伦瓦尔德认为，这是发展中特别敏感的问题。最终方案不应该由政治家或技术公司决定，人们应该能够在各自的城区或社区决定该区域的技术基础设施需求。[77]技术确实影响人的行为习惯，因此，不应该强迫他人适应某种特定的技术。若将城市发展为智慧城市视为没有其他选项的自然进化，实际上是在宣扬一种根本不存在的“技术决定论”（Technikdeterminismus）。[78]

在智慧城市这个问题上，同样应以人为中心，而非技术决定一切。一个城市或城区为了节省能源动员一切，应该能很快获得大多数人的支持。但是如果让每个人在公共空间随时随地受到监视，恐怕不会获得多数人的同意。德国的地方政府接受建议，不会为其城市大型基础设施采取政府采购的一揽子解决方案。也许大多数人对智慧城市尚缺乏想象力，无法设想如何真正生活在一个智慧城市里，是一个美梦还是噩梦？机器人在完全中规中矩的环境里会感觉良好，但是猎人、牧人和评论家则不一定。文明礼貌以及充满活力的城市生活有赖于偶然突发的、不可预知的、有时空间隙的、自发冲动的事件。完全计划的生活仅仅是一个死气沉沉的坟墓。

缺少解释、信息以及决策过程的透明度，没有最大限度的公民参与，在数字时代是行不通的。迄今为止在德国，国家和地方政府几乎无法满足电子政务和智能管理的最低要求。无论是税务管理还是建筑项目批准程序，政府部门距离快速和透明管理尚有很大的距离。

适用于城市狭小空间的解决方案，通过人工智能技术也可以适用于跨地区的超大空间。那些打算在某些道德敏感领域进行研究的人应该趁早放弃他们的如意算盘，尤其是在神经技术领域的研究，例如类脑芯片，模仿人脑神经元，利用脑机接口技术窥视人的内心。对于行动不便的聋哑人来说，这样的研究或许很有帮助。但是类似技术的其他用途就不得而知了。对此技术有兴趣的用户已经足够多，尤其是情报机构。我们对“数字化的两面性”，是让真实的生产设备虚拟地翻倍，但这种模拟模式的应用范围是否仅局限于机械制造，从何知晓呢。

尤其敏感的是，有人认为人工智能应该被编入“道德程序”，这个问题已经在无人驾驶自动汽车的设计上出现了。解决办法恐怕是让识别人外形容貌的传感器不要太过于智能，最好能屏蔽人脸识别功能。尽管如此，科技人员和某些技术哲学家仍然梦想给机器编入道德程序，其后果是不堪设想的。如果机器的道德程序做出了有争议的决定，比如在发生了事故或灾难的情况下做出了错误的判断，那么程序员就会被钉到耻辱柱上。人工智能应该在道德领域设一道警戒线，明确区分哪些领域应用人工智能无须道德顾虑，哪些领域必须在道德上深思熟虑，从而把被编入道德程序以替代由人做出道德判断的机器完全排除。这条界限的设定标准跟前文提到的护理机器人的使用界限设定一样：通常凡是有利于“辅助”人类的技术，原则上在道德层面无可指摘（除非有目的开发帮助犯罪的技术）；在社会敏感领域有意“替代”人类的技术，必须受到道德谴责。

但是，界限划分不能决定需要投入人工智能技术的时间和地点。关于人工智能会使人在很多方面变得更加愚蠢、更加迟钝的文献很多。以荷兰交通规划为例。在交通方面安全为重中之首。在20世纪80年代和90年代，交通规划工程师汉斯·蒙德曼提倡拆除荷兰城市众多的交通标志牌。他认为，太多的规则会损害人的独立思考。“如果经常指导人们并像白痴一样对待他们，那么他们的行为就会像白痴一样！”[79]蒙德曼设计的街道更狭窄，看起来像乡村。司机对此的反应是本能地松开油门，甚至在看到交通牌之前就开始减速了。更多像蒙德曼这样的思想家会使我们的社会变得更好，尽管机器人汽车时代的交通将不再属于独立思考的应用领域。在数字化时代，国家应该保护公民的基本权利免遭技术的威胁。

在未来的人道主义社会里，数字技术会改善很多领域，会更有效地利用能源和其他自然资源。国家和地方政府也必须提高自己以便更好地适应公民的需求。相互交流和公民参与将促使未来的人更积极参与、共同塑造生活环境。另外，我们还要保持警惕，谨防技术解决社会问题总体设计的许诺。人类行为中的不透明、违犯规则和规范的可能性，这些都是人类自由的基本组成部分，人道主义的乌托邦就是要坚守和保护这种自由。如果技术要限制人类自由并自我膨胀，欲取代人类做道德判断，就应该制止其应用。

人道的规则

——优劣交易

用未来的眼光回顾过去，2010年代是一个传奇的时代。人们感到被数字革命的冲击严重撕裂和不堪重负。如果数字超级权势宣称一个光明的未来，并向全世界预言这是历史发展的必然趋势，那么，没有指南针故而迷失了方向的人就会相信他们说的每一个字。一切似乎都被编了程序，人们相信西方国家除了合作以外，在拯救经济衰退方面别无选择。人们相信在互联网的虚拟世界有一套完整的与地球上的任一国家完全不同的适用法律。最终，人们甚至认为这就是进步，除此之外没有其他可能性，正如20世纪70年代人们认为核能技术代表进步和未来，此外没有其他更好的选择。

所有这些信念在2010年代被广泛传播。任何持怀疑态度的人都会被认为是落后的老古董，是脱离现实生活，敌视技术和进步，与20世纪70年代对核能的讨论如出一辙。任何想要站在多数派的人，在2018年都没有偏离这个信念太远，以免被别人当作疯子，必要时他们也可以适度呼吁，强调教育和判断力的价值，要求数字公司提高透明度等。数字经济是否存在、每个数字商业模式是否都会提高国民富裕程度、互联网涉及的是权力问题还是现实情况，等等，这些话题在当时都鲜少显现差异性。

历史正在重演。让我们回顾一下第一次工业革命，同样的困惑、同样的苛求、对经济逻辑同样的信念，后来证明那是一个极大的错误：那时工人不被看作是有价值的人，雇主支付他们最低限度的劳酬而不考虑他们的任何损失，因为只有最廉价生产——即支付最低工薪——才可以立足于国民经济的竞争中。今天我们知道，普遍的民众富裕始于工会和工人运动迫使政府更好地支付工人劳动报酬的那一刻。国家发现有必要建立社会福利法，立法之前曾一度认为社会法百无一用，对经济发展有害无益。立法之后国内市场蓬勃发展，教育质量提高，一切都变得更加美好。

2018年的情况又如何呢？今天数字超级权势和他们小众的模仿者告诉我们，为了让用户的数据“原油”变成黄金，不应该把用户看作是拥有隐私权的有价值的人。这种商业模式似乎是无可选择、不可避免的，因为未来就是这样的，这是一个新的时代，有新的商业模式和新的法律。滥用个人数据，这是现实世界中的政治事件，它不应该在数字世界里出现。也许我们对法律积极的整体设想都还停留于昔日的数字时代，所以我们必须面对所有不可避免的现实。

从乌托邦的视角回顾2010年代，可以发现，在那个时代人突然失去了对自己的信任，失去了对国家和对法律的信赖。那是一个热捧创新和效率的时代、一个将商业模式（后来又不得不运用法律去矫正）合法化的时代。在那个时代，高层管理人员所推动的发展实际上与他们自己推崇的人类形象互为矛盾：他们认为客户是懒惰的、缺乏耐性的，用户没有权利保护自己的数据；他们却送自己的孩子去最好的学校，避免孩子变得懒惰、急躁，将自己的孩子看作拥有隐私权的人。

这是一个怎样精神分裂的时代！数字公司通常最大限度地、肆无忌惮地窃取人们所有的生活数据，用这些数据进行大规模的商业交易，而这一切在当时都是一夜之间发生的。再回到1998年，那时如果给政治家和宪法卫士们描绘一幅2018年将要面临的现实图景，任何视基本法为保护隐私权的人面对如此难以想象的崩溃，都会大吃一惊。人们会尽一切努力挽救，然而，这个转变不是一下子完成的，而是在潜移默化中一点点发生的。先是提供免费搜索引擎，再是社交网站，最后是语言助手。起初它们对数据保护的攻击不很明显，后来它们的影响又被低估了。到了2018年，大多数人确信，年轻一代已经掉进深渊无可挽救了。有些人还在感到轻微不适的时候，就有人开始许诺更安全的数字未来、更多的便利和舒适，憧憬令人难以置信的经济增长。试问，谁能抵制安全和舒适呢？谁来唤醒时刻准备售卖自己自由的人呢？谁还会怀疑一个承诺带来前所未有的进步和经济增长的商业模式呢？

\*

再来仔细观察一下2018年的商业模式。数据有多种不同的形式，数据处理可以有很多种方法。许多数据和真实存在的人没有任何关联。比如，为了让一条工业生产线全自动化操作，或者让冷却系统、通风系统、服务器和窗口等能够更省电地运行，或者为了维护保养机器等，我们需要大量的数据但不涉及个人数据。像这类的技术创新在法律和道德意义上完全没有问题。有一种与之完全不同类别的数据来自个人行为，比如，上网浏览、网上购物，或者在公共场合使用智能手机等，这些数据被收集记录了下来。同样来自个人行为的数据像医生和医院存储的病人的健康数据，这些数据本身极其敏感，理应受到很好的保护。第三种数据是基于对个人数据的匿名分析形成的，使用这些数据的人不知道数据来自何人。在这种情况下，提供个人数据的人的隐私应该受到保护，匿名数据比普通数据更安全才对。但是数据交易——至少从国民经济的视角来看——并不是在所有情况下都是值得赞赏的，也并非百无一害。

个人数据。使用智能手机在网上银行取钱，或者在互联网上浏览，都不可避免留下个人数据痕迹。这些数据泄露个人的习惯和兴趣爱好、行为倾向、日常生活以及经济状况，等等。此外，银行现在可以根据用户习惯更好地设置服务项目，在线零售商可以筛选用户的供货分类，服务至此，都还没有出现太大的问题。但如果用户的个人数据被用来计算以便定向推送广告，或者用户的数据被转卖给第三方，即商家可以根据各种规则随意薅用户羊毛，这才是最令人恐怖的。

一个特别阴险奸刁的商业模式是向用户提供一些免费的东西：搜索引擎、进入社交平台的账号、虚拟私人助理如Alexa智能助理等。这类的商业模式在现实世界很少见。客户知道要用自己的数据支付，但通常大都丧失了想象力，看不到事情的本质，不知道自己的数据卖给了谁，看不到这种生意多么暴利；只有在看到某些企业股市价格飙升时，才能发现一些端倪。数据的收集、补充、汇集、分类，建立文档，形成巨大的商业交易，许多专业公司专注于此并赚取了巨大的利润。实体经济中那些特别费力的、在狭窄的空间无法施展的交易，在数字经济中通过窥视刺探私人生活变得轻而易举。

对于像德国这样重视数据保护的民主法治国家来说，这跟恐怖袭击别无二致。但是这也不能排除数据是自愿输送的事实，因为许多数字通信设备，如智能手机、搜索引擎或像WhatsApp这样的即时通信工具，人们几乎无法舍弃不用。所以说自愿行为并不是真的自愿，在社会压力下出现社会孤立风险时，自愿行为才会发生。完全放弃使用这些设备或者服务并不是一个现实的解决办法。使用者如果没有太多关于加密和伪装策略的技术知识，只能不断地被定位、被监视和被侦查。

如果不为人知的第三方用客户的数据赚钱，普通人几乎无力抵抗。他们研究客户的私人信息、职业网页，观察跟踪位置，创建行动个性档案。所谓第三方的Cookies（浏览器缓存）像臭虫一样到处嗅客户的计算机和智能手机，不停地推送有针对性的广告，而它自己则藏而不露。个人的需求常常在人们在意识到之前就已经被公开了，第三方公司由此获得巨大的商业利润。

读过奥威尔的《一九八四》或者赫胥黎的《美丽新世界》的人对“这一切都应该是合法的”论调也就见怪不怪了。如果数据交易在1998年一夜之间被引入，肯定会立即被欧洲全面禁止。然而，这一切在十年内以无数个小步逐渐累计转变而来，以相同的缓慢速度持续进行。数据交易常常巧妙地隐蔽起来，在很大程度上没有引起政治和司法部门的注意，所以抵制行为也是软弱无力。面对既成的事实和不断的渗透，德国和欧洲的政府几乎没有意识到发生了什么。了解数字变革时代之前的人几乎难以置信，自由民主的捍卫者受到舒适、便利、经济大幅增长的承诺诱惑时，是多么的软弱无力。

承诺的经济大幅增长究竟是什么？毋庸置疑，不知疲倦的计算机和机器人完成人的工作将会大大提高生产力；数以万亿计的匿名数据会使物流流程效率和效益大幅度提高。匿名数据用于优化交通流程、废物处理、医学发展算是承诺增长可预期的部分；在商业领域使用和出售个人数据，以便有目的地引导个人消费行为，如何体现国民经济的效益呢？

个人数据可以有针对性地向客户推送广告。对一个人了解得越多，就越能引诱他去购买指定的商品，但是如果一个人在某些商品花费了更多的钱，那么他一定会在其他方面节省钱。这对国民经济有什么影响呢？无论怎样运作，附加值都没有提高，只是钱的分配方式不一样了。食品公司梦寐以求像脸书那样更多地掌握客户信息；德甲俱乐部追踪球迷轨迹，以便向球迷销售附加产品；媒体公司希望读者被锁定在它的网站，以便推荐适合读者喜好的文章，顺便把读者的数据出售给第三方，这些操作都有利于公司，但总以牺牲其他公司利益为代价。根据客户的信息定向推送广告虽然有可能让顾客掏更多的钱，但不会使顾客的钱增多。蛋糕不会因此变得大一点点。

对国民经济最具伤害性的是大型数据交易商，像谷歌、脸书、亚马逊，以及强大而隐形不露的甲骨文公司、剑桥分析公司¹⁹、视觉DNA公司²⁰，他们把数据卖给出价最高的一方。大公司变得愈加强大，小的市场参与者则失去客户和利润。[80]例如，美国营销服务供应商安客诚²¹拥有美国96%人口的准确数据，以及大约4400万德国互联网用户的资料。这些个人数据被划分为14个主项（单亲、贫困，等等）和214个子项（知识型、享乐型、物质消费型），[81]任何支付足够使用费的人都可以获得这些数据。最终，经济渐渐消退，巨额利润落入少数公司和投资家手中，没人知道他们会在哪个避税岛纳税。

以上这些都属于个人数据用于商业用途。这还可以细分为个人数据仅仅被临时存储、被购入者购得自己使用，以及被购入后转售给第三方。存储个人数据并非一无是处，它有积极作用的一面，例如在医学应用和无人自动驾驶汽车开发方面。商业使用个人数据则是另一回事，需要有在商业用途范围内的准确和有差异的授权同意。相反，如果无限制地使用甚至转手出售个人数据则违反公民的基本权利，将是奇耻丑闻。

德国《基本法》和《欧盟数据宪章》是保护个人权利和公民隐私的坚固堡垒，至少法律是这样写的。基本法第一章明确标有保障人类尊严不可侵犯，确保每个公民都有“信息自主”的权利。个人有权自主决定何时以及在何种范围内个人的生活资料允许被披露。[82]越是涉及个人隐私的，保护壁垒就越高。从这个意义上来看，德国联邦宪法法院恰是要“保障信息技术系统机密性和完整性的基本权利”。

[83]《欧盟数据宪章》第七章保护尊重私人生活，第八章保护个人数据。欧洲法院于2015年10月在“安全港决议”中规定，欧盟成员国在处理个人数据方面有义务保护自然人隐私。[84]

依据以上法律条例，理论上，德国和欧洲公民应该受到很好的保护。如果个人可以自主决定“何时以及在何种范围内”个人的生活资料允许被披露，为什么会有人可以将个人数据用于商业用途或者滥用呢？在谷歌、脸书、苹果或亚马逊的使用条款下有个同意的选项，点击“同意”，但并没有解决“何时”的问题。如果个人真的可以自主决定个人数据何时可以被使用，那么每一次使用之前都应该被询问。若要判断个人数据在“何种范围内”允许被使用，用户必须知道自己的个人数据被出售给谁，才能识别是否超越了授权使用的范围。理想状态是至少每个月用户可以得到一个简明扼要的个人数据的使用计划，用户时常更新签署授权同意。

2016年5月欧盟《通用数据保护条例》（EU-DSGVO）通过，所有欧盟成员国须于2018年5月前实施。这是个让人愉快的法案。条例禁止任何人任意掠取个人数据，公司应该将个人数据的处理限制在“最低的必要程度”，如第五条所规定“禁止保留许可”，现在举证责任终于逆转了，至少数据被滥用者不必再举证，而换作收集和存储个人数据一方必须提供证明，说明收集数据的目的，否则，数据使用无限授权无效。