[数字经济前沿]技术封建主义

技术封建主义

作为实验室的互联网。随机对照实验由三个要素组成。①首先是实验本身，也就是我们要测试效果的干预方法。其次是对照，这是指有一个比较点。最后是随机化，目的是通过调动偶然性的统计特性来提高对照的质量。

这个系统有着悠久的历史，处于多个学科的交叉点。虽然这种方法可以追溯到19世纪，但它在20世纪20年代才首次被正式确定下来。遗传学家兼农学家罗纳德·费舍尔（RonaldFischer）在尝试评估一种肥料对燕麦地块的效果时，提出了随机决定对哪些地块施肥、对哪些地块不施肥的想法。他在1926年发表的一篇文章中详细解释了他的方法，这使他作为这种实验方法的第一位理论家在科学史上占有一席之地。第二次世界大战后，这种方法得到广泛应用和标准化，特别是在医学临床试验中。在美国和加拿大，这种方法也被广泛用于评估公共政策，特别是在就业领域。最后，在21世纪初，麻省理工学院的埃斯特·杜弗洛（EstherDuflo）和贾米尔贫困行动实验室（JPAL）在发展经济学领域重新利用了这些方法。②

鲜为人知的是，这类实验目前正在网络上以前所未有的规模进行。罗恩·科哈维（RonKohavi）和罗杰·朗博瑟姆（RogerLongbotham）两位专门从事此类实验的微软研究人员揭示，我们经常被当作实验的小白鼠，但我们对这些实验一无所知：

① 关于这些实践的谱系及其在经济学中的应用，参见：ArthurJATTEAU， «Faire preuve par le chiffre? Le cas des expérimentations aléatoires en économie », Université Paris-Saclay, 2017。

② 关于批判性的观点，参见：Agnès LABROUSSE，«Nouvelle économie du développement et essais cliniques randomisés: une mise en perspective d’un outil de preuve et de gouvernement», Revue de la régulation, n° 7, 2010; Cédric DURAND et Charlotte NORDMANN, «Misère de l'économie du développement», La Revue des livres , n° 1, 2011.

100

随着互联网的发展，在线对照实验从20世纪90年代末开始使用。如今，许多大型网站，包括亚马逊、必应（Bing)、脸书、谷歌、领英（LinkedIn）和雅虎每年都会进行成千上万次实验，以测试用户界面的变化、算法（搜索、广告、个性化、推荐等）的改进、应用程序的变更、内容管理系统等。如今，在线实验被视作不可或缺的工具，并且在初创企业和小型网站中的使用日益增多。①

这种大规模应用的原因很简单，联网对象的激增使得大规模评估不同设备对个人行为的影响成为可能。与其他数据挖掘技术不同的是，这种技术的目的不是简单地显示自发的统计规律，而是以极高的概率建立可控的相关性。

实验者通常是经济学家②，他们可以探索以下假设：“如果引入特定的变化，是否会改善关键指标？”通常，实验可能稍微修改搜索引擎上广告的边缘形状，然后将标准视图和修改后的视图随机分发给用户，以观察用户行为的变化。例如，在微软搜索引擎必应上进行的一项测试中，在广告横幅中添加内部链接，或改变字体的大小，甚至改变页面上的广告数量。引入的差异往往很小，但它们可能产生价值数百万美元的影响。

第二章 数字统治

① Ron KOHAVI et Roger LONGBOTHAM, «Online controlled experiments and A/B testing», in Claude SAMMUT et Geoffrey I. WEBB (dir.), Encyclopedia of Machine Learning and Data Mining, Springer, Boston, 2017, p. 922.

② Susan ATHEY et Michael LUCA, «Economists (and economics) in tech companies», NBER Working Paper, n° 19-027, 2018, p. 7.

101

困难之一在于定义适当的指标来衡量所需的效果，这是一种被专家称为总体评估标准（Overall EvaluationCriterion）的综合指标。例如，点击率的提升可能是一个误导性的利好信号，因为该提升实际上伴随着网站流量的下降。因此，有必要找到一种令人满意的方法来捕获这两个方面，并确保结果的可靠性，特别是排除软件机器人的活动产生的错误信号。然而，一旦这些困难得到充分考虑，实验就变得非常可靠。

谷歌首席经济学家哈尔·瓦里安（HalVarian）认为，随机实验“是因果关系的黄金标准。如果你真的想了解因果关系，就必须做实验。如果你不断地做实验，你就能改进你的系统”①。从技术上讲，瓦里安错了。测试本身并不能解释因果关系，即它们只能告诉我们相关性在统计学上的稳健性，但并不能说明造成相关性的原因。例如，可以确定的是，改变广告的颜色会提高点击率。但为什么会存在这种联系？是什么文化、社会或生物机制在起作用？我们不得而知。唯一能证明的就是这种联系。不过，从工具主义的角度来看，这已经足够了。这些相关性为建立有利可图的系统提供了充分的基础。

技术封建主义

① Hal R. VARIAN, «Beyond Big Data» , loc. cit., p. 29.

102

最初仅限于大公司的“测试和学习”方法正变成数字环境中创新周期的规范，平台为第三方公司提供了自己进行在线测试的工具。我们需要担心这些新方法吗？在2012年1月11日至18日的一周时间内，脸书进行了一项实验，并引发了争议。该实验旨在探索社交网络环境下是否存在情绪传播现象，这是社会心理学中也研究过的话题。①结果与假设相符。那些接收到正面内容减少的新闻推送的人在状态更新中使用负面词语的比例较高，而使用正面词语的比例较低。相反，那些接收到负面内容减少的新闻推送的人呈现相反的变化。尽管测量到的影响非常微小（变化约为0.1%），但这仍然表明每天表达的数十万种情绪可以通过这种过滤过程而改变。研究还表明，减少带有积极或消极情感内容的消息数量会减少一个人随后在社交网络上产生的单词数量。换句话说，脸书可以通过某种方式影响个人的参与度。对于偏爱情感丰富内容的用户来说，这通常会增加内容的产量，这意味着选择内容以提高用户的参与度符合公司的利益。因此，这项研究建立了情绪操纵能力和社交网络参与度之间的联系，进而建立了脸书的盈利能力。

第二章 数字统治

① Adam D. I. KRAMER, Jamie E. GUILLORY et Jeffrey T. HANCOCK, «Experimental evidence of massive-scale emotional contagion through social networks», Proceedings of the National Academy of Sciences, vol. 111, n° 24, 2014, p. 1-3.

103

技术封建主义

这项实验引发了一波反对浪潮，因为个人可能在没有明确同意参与实验的情况下受到影响。①然而，与科学机构不同的是，公司在实验方面并不遵守成文的道德标准。与其他互联网公司一样，脸书的数据使用政策包含在服务条款中，但我们大多数人都没有阅读就点击同意了这些条款，例如：

我们使用获得的信息来开发、测试和改进我们的产品，包括进行调查和研究，以及测试新产品和功能并排除故障。②

这种含糊其词的提醒给了这家公司可乘之机。但这只是冰山一角，大部分都受到商业机密的保护。这些在互联网上进行的大规模实验操作是数字应用研究团队的日常工作，甚至是它们创新的主要手段。在大多数情况下，公司并不会公布它们进行实验的协议和结果，因为这些都是建立竞争优势的决定性因素。

当机器进行实验时。随着人工智能机器学习的发展，在线实验的挑战只会越来越大。2015年10月Alphabet旗下DeepMind公司开发的AlphaGo程序首次战胜了职业围棋选手、全欧洲冠军樊麾（FanHui）。2016年3月，该程序再次战胜了一位世界顶尖棋手、韩国棋手李世石。在此之前，围棋被认为是人工智能程序最难掌握的棋类之一。计算机的胜利并不仅仅归功于更强的计算能力。它不会计算每一步棋的后果，而是通过积累经验来学习什么样的棋步能带来最好的结果。①除了研究大量棋局外，计算机还通过与自己对弈来学习选择最佳棋步。它在自己身上做实验。

① Robinson MEYER, «Everything we know about Facebook's secret mood manipulation experiment», The Atlantic, 28 juin 2014.

② FACEBOOK, «Politique d'utilisation des données», en ligne

104

这种“强化学习”的方法是人工智能领域的一项成熟技术，应用领域十分广泛，包括机器人、计算机视觉和游戏，以及金融、教育、交通、能源网络和健康等。②机器对人类进行实验，目的是最大限度地获得非直接结果。与围棋比赛一样，计算机也在测试棋步和探索未知的策略。不同之处在于，这里的机器不是在与自己对弈。它测试对人类施加安排的有效性，目的是促使人类表现出研究赞助者希望促进的行为。例如，有一项实验旨在鼓励2型糖尿病患者参加体育锻炼。③机器被允许学习如何个性化地向参与者发送信息，尤其被允许调整信息的内容和信息发送的频率，无论该内容是积极的还是消极的，也无论是否包含社交元素。随着时间的推移，程序会根据每个人对所发信息的反应来调整与他们的互动。通过这种方式，机器学会了对信息进行个别调整，成功地显著提高了患者的活动水平。

第二章 数字统治

① David SILVER et al., «Mastering the game of Go with deep neural networks and tree search», Nature, vol. 529, n° 7587, 2016, p. 484-489.

② Yuxi LI, «Deep reinforcement learning», arXiv. org, 15 octobre 2018, en ligne.

③ Irit HOCHBERG et al., «Encouraging physical activity in patients with diabetes through automatic personalized feedback via reinforcement learning improves glycemic control: table 1», Diabetes Care, vol. 39, n° 4, 2016, p. 59-60.

105

第二次世界大战和纽伦堡审判之后，知情同意被确立为对人体进行实验的伦理要求之一。然而，在在线实验中，这一原则被普遍蔑视，最常见的情况是通过注册时确认的平台一般使用条款和条件来获取同意。在数字时代，体验的大众化和控制的扩张相辅相成。19世纪，“实验知识与规训机构的权力之间存在深刻的密切关系”①。到了21世纪，在线实验的发展可以说与全面监控的权力联系在一起。

从这个令人担忧的角度看待大他者对我们生活的控制，揭示了非常现实的威胁，但只触及部分问题。叶夫根尼·莫罗佐夫（EvgenyMorozov）警告说，危险在于“祖博夫试图解释和谴责资本主义监视态势的新兴之处，却过分地使资本主义本身正常化”②。换句话说，过分关注所部署系统的规训维度，有可能忽视它的经济基础。有关监控资本主义的论述缺少政治经济层面的质疑。是什么样的生产模式的改变把我们带到了这一步？竞争态势如何使基于监控的盈利策略得以实现？

除了第一点批评，莫罗佐夫还提出了第二点更为直接的政治批评。他指出，祖博夫这本书的先验规范建立在对自由主义个人的神圣化之上。面对监控资本主义的过度行为，它的观点本质上是保护单个消费者的明智选择。但难道没有另一个更集体的维度值得思考吗？

技术封建主义

① Grégoire CHAMAYOU, Les Corps vils. Expérimenter sur les êtres humains aux XVIII\* et XIX siècles, La Découverte. Paris, 2008, p. 291.

② Evgeny MOROZO)V. «Capitalism's new clothes». loc. cit.

106

新的数字土地

就像一个典型的千禧一代，我总是黏在手机上，我的虚拟生活已经与我的现实生活完全融为一体。已经没有区别了。

——朱迪斯·杜波塔尔(Judith Duportail)①

内在超越性的影响

祖博夫理论的基础是自由主义原子论的假定，即人是自由和自主的。弗雷德里克·罗尔敦的《主权》（Imperium）一书批判了这一前提，认为社会不过是基本主权个体的集合体，他们只是自愿地将自己与他人联系在一起。回到社会学领域，与继承自埃米尔·涂尔干（Émile Durkheim）的整体主义偏向相反，罗尔敦认为存在着“整体对部分的过剩”：

社会必然具有超越性，尽管是一种非常特殊的超越性：

第二章 数字统治

① Judith DUPORTAIL, «I asked Tinder for my data. It sent me 800 pages of my deepest, darkest secrets», The Guardian, 26 septembre 2017.

107

技术封建主义

一种内在超越性。任何规模稍微庞大的人类群体，无一不是在其所有成员身上投射着各种各样的象征性产物。尽管这些产物是群体成员共同塑造的，但他们所有人又同时受到这些产物的统治，无法在其间辨认出自已曾经的“贡献”。①

分别为亚马逊和微软工作的两位研究人员布伦特·史密斯（Brent Smith）和格雷格·林登（GregLinden）认为，大数据是类似逻辑的一部分：

推荐和个性化服务利用我们在这个世界上活动时产生的海量数据，包括我们发现的、我们探索的以及我们喜欢的……。算法并不神奇，它们只是与你分享其他人已经发现的东西。②

象征性产物源于个人，但随着它们的倍增和聚合，其形式变得难以辨认。这就是大数据。算法从中汲取的“海量数据”源于个人行为的过剩部分，但在聚合过程中超越了个人，又以蜕变后的形式回归个人。

社会与大数据之间不仅仅是类比关系。当然，大数据并不完全是社会性的，但它具有社会性。它是一种辩证运动的结果，最初是从统计规律中捕捉到的集体力量的象征性结晶，然后是它对个人及其行为的反馈。大多数平台的共同点是，它们收集用户数据以提供服务。无论用户留下的痕迹是搜索词、语音样本还是对服务的评价，“用户都处于一个反馈循环中，他们对自己使用的产品做出了贡献。这就是数据科学的基础”①。数据采集为算法提供信息，算法反过来又指导行为，两者在反馈循环中相互促进。

① Frédéric LORDON, Imperium. Structures et affect des corps politiques, La Fabrique. Paris, 2015, p. 61.

② Frédéric LORDON, Imperium. Structures et affect des corps politiques , La Fabrique, Paris, 2015, p. 61-62.

108

大数据的力量在于庞大的规模。换句话说，算法数量越多，收集和处理即时数据所产生的超越效果就越大。然而，这种大数据力量有失去控制的风险。②在小范围内，人们可以共同地充分认识集体生活的力量和影响，但在大范围内，这就变成了专家的事，变成了数据科学家的工作。当众人无法认识到自身的力量时，他们就很难对自己的力量负责，因为他们已经与自己的力量格格不入。罗尔敦写道：“组成整体并不仅仅是简单的叠加，而是要产生额外的东西。”③悲剧在于，在这种社会构成的垂直运动中，显现出来的力量面临着被剥夺的危险：

第二章 数字统治

① Mike LOUKIDES, «What is data science? The future belongs to the companies and people that turn data into products», O'Reilly Radar Report, 2010.

② «La transcendance immanente est précisément ce supplément qui naît des synergies affectives sur de grands nombres, là où les petits nombres, satisfaisant la condition synoptique, peuvent espérer conserver la pleine maîtrise de leurs productions collectives», Frédéric LORDON, Imperium, op. cit., p. 74.

③ «La transcendance immanente est précisément ce supplément qui naît des synergies affectives sur de grands nombres, là où les petits nombres, satisfaisant la condition synoptique, peuvent espérer conserver la pleine maîtrise de leurs productions collectives», Frédéric LORDON, Imperium, op. cit., p. 224.

109