作者：吴 靖，北京大学新闻与传播学院教授、副院长。

来源：中国出版 

  摘要
  文章通过2018年几个有关“算法”和平台经济的负面新闻，讨论算法霸权背后的资本逻辑和技术中心主义。“算法”和“人工智能”在具体的社会经济生活中角色的加强到底意味着什么，与人类社会现有的传统伦理，产生了怎样的冲突和重塑的关系。既然新的基于算法的平台科技已经代表着人类传统生活方式的重新组合和创造性改革，我们需要思考如何在数字化与社交媒体的时代重新激活公共领域的理想与实践，让公众提供与新科技共处体验的不同面向，并且相互交流，才可能更全面地思考人类与“算法”共处并且“驯服”算法的方式。

原文刊登于2019年2期

原题为《“算法”具有自由意志吗？——算法主导社会行为背后的几个悖论》

20世纪中叶以来，“人工智能”一直被认为是人类科技的前沿领域，一旦有所突破，就具有改变人类历史的力量。20世纪60年代，“人工智能”与“空间技术”和“能源技术”并称为人类三大尖端技术，而到了21世纪，其他两项变成了“基因工程”和“纳米科学”，“人工智能”却又一次上榜，成为科技新浪潮的代表性技术。2016年，随着阿尔法狗大战人类围棋顶级高手的耸动新闻的热议，“人工智能”的话题从小众的尖端科技领域进入到了大众文化，人们开始讨论现实中可以实现，或者不久马上会实现的人工智能应用，而不是未来主义畅想中的缥缈景观。在机器轻易挑战了不久前还被认为是很难挑战的人类智慧高峰围棋的时刻，人类舆论充满了对人工智能即将碾压人类熟知的一切的期待与恐惧。但是总的来说，在两年前沸腾的人工智能舆论中，乐观主义成为主旋律。人类憧憬着新科技能够解决当下世界的结构性问题，感慨人类主体性可能会消退，半期待半担忧地讨论着机器全面取代人类劳工的场景。

然而到了2018年，关于“人工智能”的新闻虽然继续接二连三，但是风向却出现了巨大的转变。首先用词更加接地气了，“算法”替代了“人工智能”这个大而无当的概念，更明确指明了这一新科技发展的核心原理，那就是由计算机来模拟某些人的思维和智能，通过“算法”来实现在存在一定的输入的条件下，由计算机来完成特定功能的输出，替代或增强人类的某些决策任务与能力。另外，新闻所涉及的行业也更加具体，并不是还处于科学游戏和实验状态的“下围棋”，而是进入到自动驾驶、社交媒体和共享经济平台这些大量依靠“算法”才能成立的新技术与经济实践之中。我们可以从这些已经发生的事故和争议中，去讨论“算法”和“人工智能”在具体的社会经济生活中角色的加强到底意味着什么，以及与人类社会现有的传统伦理都产生了怎样的冲突和重塑的关系。

本文将从几个近期有关算法的新闻事件入手，讨论算法主导下的社会与经济行为在伦理层面的悖论和困境。

平台经济的算法依赖

与伦理导向

对平台经济算法问题的讨论基于滴滴顺风车的系列丑闻。滴滴平台的顺风车业务接连爆出多起抢劫、强奸、杀人的恶性案件，引发舆论危机。以滴滴为代表的“共享经济”，在2010年前后成为创投市场的宠儿。滴滴出行作为一家2012年才成立的创业公司，先后完成20轮融资，金额总量超过200亿美元，成为全球融资金额最大的未上市公司。[1]滴滴用巨大的融资额通过对出租车和网约车司机以及乘客进行补贴的方式，先后击败和收购了快的、优步等国内国际的网约车平台，获得了在中国市场的垄断地位。在引发众怒的系列恶性案件爆发之后，舆论和交通管理部门都指出了滴滴因为垄断而导致的傲慢、管理散漫和对顾客投诉与政府管理回应缓慢等问题。然而，除了垄断、管理不善和资本逐利本性这些所有企业都有可能存在的问题以外，滴滴公司作为平台经济代表的运营模式，也是造成出租车行业在劳工、服务、安全等方面问题的重要原因。

滴滴之所以能够在很短时间获得大量融资、垄断出租车以及网约车的市场，并且在很长一段时间以来一直获得政府相对宽容的管理政策，是因为类似的平台企业以通过算法可以优化交通资源配置，并且将私家车的闲置运输能力和乘客的特殊需求进行匹配，作为科技创新企业对新经济和社会做出巨大贡献的理由。“算法”在这种平台经济的模式中，被当作促进信息流通和资源高效配置的科技解决方案。在传统出租车行业服务缺陷和城市交通拥堵的大环境下，加上早期平台企业的大规模补贴政策，民众和司机都迅速被吸纳到滴滴平台之上，接受滴滴APP通过算法来调节和指挥的打车服务。另外，与传统出租车企业所不同的是，滴滴是一家轻资产的公司，它并不拥有出租车，也并不雇佣司机，不需要对固定资产以及员工福利、培训和保险进行很多投入，但是又可以因为垄断了顾客对车辆需求的信息而从司机的劳动中获得提成。滴滴与司机之间，并没有稳定的劳动关系，它实际上也并不能够承诺或者保证在自己的营销广告中所宣称的，对于乘客来说优越于传统出租车行业的各种服务。这些只是基于对互联网世界资源以及人际关系最优匹配的神话般的社会想象。在现实中，无论是司机还是乘客，都会因为没有稳定的角色期待、职业标准、工作经验和责任认定，而遇到各种各样的风险和问题。滴滴作为平台企业，最大的利益诉求就是维系用户的黏性，维持用户对平台的基本信任，甚至是对平台的依赖。因而对于顾客投诉甚至警方工作进行推诿、拖延，拒绝向政府提供运营数据和车辆信息，出了事故以后整改不到位等等作为，就不仅仅是管理不善的问题，而是滴滴这种类型的平台企业要继续运营下去的系统性做法。平台与劳动者和顾客之间，并没有直接的契约关系和社会关系，平台作为披上科技外衣的“中介”，既具有科技所带有的“客观”“中立”“精确”的光环，又是去人格化、去实体化的，很容易规避人们对“伦理”和“责任”的追问。

不少研究者和观察家都已经指出，从互联网创业大潮中所成长起来的平台企业，或者说“共享经济”，以亚马逊的Mechanical Turk，Uber，爱彼迎（Airbnb）、淘宝、滴滴等为代表，实际上是一种与新自由主义经济模式相契合的“零工经济”。[2]这种模式是建立在一种对中产阶级个体的“创意活动”浪漫化的想象之上，认为人们可以利用“业余时间”（淘宝带货）、使用“空余生产工具”（上下班路上的顺风车、出门度假空置的房屋）、利用自己职业之外的特殊才艺（外语、写代码、制作小工艺品、化妆技巧等），将这些“边角料”的资源和劳动，通过平台和算法的连接，转化成财产性收入，既充分利用了资源、服务了有需求的人，又可以获得额外的收入，并且劳动时间灵活、自主性强。但是，在现实中，新自由主义经济政策导致失业人口增加，灵活就业和不稳定工作成为常态，许多劳动者参与平台经济是作为唯一的收入来源，并非经济收益的锦上添花，而平台企业只有将零散的服务提供者与消费者捆绑在一个更加稳定和垄断的信息环境中，才可能具有可持续的盈利模式。因此，一方面是劳动者与平台之间是陌生人和异化的关系，并不具有传统企业劳动环境所形成的人际关系、职业伦理、工作稳定性和工友之间的相互支持，而另一方面是消费者和零工劳动者在垄断平台的挤压下别无选择，只能通过平台来获取工作和服务。平台算法的主导逻辑是效率和交易的达成，以及快钱的攫取，而并非服务质量的提高和产品的个性化。实际上，平台企业在连接服务提供者和潜在消费者的时候，是无法把“服务质量”这样主观性的变量的评估加入到算法之中的，它们所能做的，就是最大限度地促进交易和完成交易。具体行业的职业水准的提升和产品质量的提高，只能是专注于此的企业来不断改进，不可能由只把产品和服务看成数据和流动性的平台来实施。金融资本主导下的平台经济，不可能具有特定的、稳定的社会伦理。

大数据与传统受众调查

2018年初，英国《卫报》采访了一家名叫“剑桥分析”（Cambridge Analytica）的数据分析公司的爆料人Christopher Wylie，承认公司通过（非法）数据挖掘获得脸书（Facebook）上5000万用户的数据，用来分析用户的日常行为与他们的政治态度之间的关系。[3]英国脱欧公投和美国川普意外当选之后，自由派媒体就一直在调查这些投票的“意外情况”背后，是否有新的心理操控和政治操控技术的影响。以Facebook为代表的社交媒体，早已经成为许多分析家解释西方工业化社会政治公共领域碎片化、代表性断裂、选举政治腐化的众矢之的。这场丑闻还导致了一场为期两天的美国国会听证会，几十名议员对扎克伯格进行了连珠炮似的提问，但是似乎焦点成了Facebook如何防止泄露用户隐私数据的问题。把问题的焦点从数据分析背后所采用的“算法”及其逻辑，转移到了保护数据不外泄给潜在的邪恶力量，这使得舆论偏离了对一个重要问题的探讨：是否数据量足够大，算力足够强，人们的政治行为，比如投票，就一定是可以展示出特定的规律、可以预测并且进行人为干预的？

这个问题并不新鲜，在“大数据”这个概念兴起之前很久，通过定量数据分析，可以对社会成员的行为规律进行总结和预测，就已经成为大规模社会调查——包括商业调查和社会心理调查——所奉行的基本原理了。只不过早期的社会调查是基于特定社会学原理的抽样，而并非完整的大数据。因此，在20世纪的大部分时间，工业化社会的人们对于商业调查、社会态度调查、政治选举调查、舆论调查等几乎充斥了生活方方面面的各类调查已经见怪不怪，并且经常认为它们的结论并不准确，只是一家之言，甚至和算命相比，也精确不了太多，并没有那么容易和阴谋论或者操控选举等想象联系在一起。引发舆论恐慌的，是社交媒体、人工智能、大数据算法这些“全新”的概念，这些概念发端于20世纪60年代的军事工业，建立在对使用大型计算机来模拟和控制复杂系统与战场形势的科学期待之上。[4]因此，基于抽样的早期市场调查和基于大数据的网络时代的社会行为控制，虽然在对人类的主观行为其实是具有客观规律的、是可以预知的这个认识层面，具有根本的一致性，但是两者的区别在于网络科技、信息收集技术和芯片运算速度的指数级发展，导致人们相信一个全面监控、人类被彻底数据化的时代终于到来了。舆论对于Facebook数据泄露事件的恐慌，以及美国国会通过听证和道歉这种政治仪式试图要平复的恐慌，都是来自于对自由意志终于要全面败给人工智能和算法这一深层次的意识形态。

在算法所理解和复制的人类行为模式中，只存在大量的刺激——反应过程的集合，而不存在对于自由意志和伦理自主性的考量。尽管在算法学习中，理论上可以允许无限大的输入，但是无论输入多少变量，自由意志和伦理都是在算法所建构的复杂系统之外的。这一问题在另外一场涉及人工智能机器失败的事件中，得到了更清晰的展示。2018年3月18日，在美国亚利桑那州发生了一场自动驾驶汽车撞死了一个行人的车祸。经过调查，车祸原因在于正处于自动驾驶状态的汽车虽然感知到了前方的物体（行人），但却通过数据库的计算和判断认为那是另外一辆汽车，也在向前移动，因此没有做出任何躲闪的动作。等物体近在眼前仍旧没有移动的时候，自动驾驶的汽车无法做出有效判断，也不知道该做什么动作，于是突然把驾驶权交还给了司机，但是司机在那个时候完全没有思想准备，于是汽车径直撞上了那个“物体”：一位49岁的女性。[5]在人类智能的世界，无论是出于本能、还是出于理性判断，见到不明物体的第一反应应该是降低车速，然后再进一步判断，但是在算法的世界里，“为了安全起见而牺牲效率”可能是一个无法训练的能力，因为这种判断是基于主观判断的选择，并没有唯一的答案，并且不符合机器理性所要追求的精确和效率最大化原则。

基于Facebook数据进行政治行为预测和干预，和通过大数据训练开发的自动驾驶汽车，似乎是算法在两个完全不同领域的应用。但是，如果追究到两种技术体系所依据的基本认识论前提，那就是对于人类行为是出于自由意志和伦理判断的推动，还是来自于复杂输入的刺激——反应模式的判断，我们可以看到两者的认识论都是建立在后者的基础之上，而排斥了自由意志和伦理选择。也就是说，算法在当下一些人类活动领域的渗透，已经不是替代人类活动，或者增加某种活动的效率那么简单的事情了，而是首先对人类行动的逻辑进行了改造，从伦理逻辑和效率逻辑各占一定的比重，改造为效率逻辑和工具理性占据所有的空间，完全排斥伦理逻辑与价值理性，并且进一步在改造的基础上开发出了基于算法的人类行动模式。

早在20世纪30年代，法兰克福学派的批判理论家们在接触了美国式的媒体市场调查之后指出，文化工业总是声称自己在用最先进的调查方法——问卷、心理分析、焦点小组等等——来科学性地理解受众，表明自己给受众生产的标准化娱乐产品是受众自己想要的、需要的。其实，市场细分不过是文化工业生产链条的一部分，是由文化工业精心规划，并且通过营销、广告、市场调查中的心理暗示和分类指引，以及类型化节目的稳定投放，而逐步生产出来的。并不存在“天然”喜欢某种节目的受众，受众的品位和分类，是文化工业的重要产品，是文化工业生产逻辑的结果，而非原因。[6]由此可知，受众市场调查，就是大众传媒时代的“算法”，而社交媒体新技术所带来的，无非是对受众分类投放的更加封闭、影响力更加强大。APP与大众传媒最大的差别，就是我们连手中的遥控器都失去了，一点点放弃了偶尔越过自己的“信息茧房”，到更广阔的世界串一下门的机会。我们在不知不觉中被包裹在一个小宇宙中，与他人近在咫尺，却消费着非常不同的信息和文化，我们的品位、逻辑和价值，被“算法”所塑造和改造，也越来越依赖“算法”而存在。

“算法”治理需要公共领域

既然“算法”的主导权背后是资本和效率的价值体系，也就是哈贝马斯所说的，系统对于生活世界的逐步侵占，那么能够与“算法”主导权进行博弈的，当然就是提倡和培育价值理性与主体间性的公共领域了。在“滴滴”顺风车恶性案件丑闻的舆论之下，笔者接触到了两个小故事，可以算作公共领域和公民行动如何可能贡献于“算法”治理的注脚。第一个故事来自于一位出租车司机，在和笔者聊到出租车与“滴滴”的关系时，司机师傅专门提到一个传统司机的技能，“扫街”，也就是在大街上接招手打车的乘客。他说虽然开着打车软件，但他坚持“扫街”，“不要偷懒，把接到好单的希望都寄托在平台身上，平台就是为了把你捆绑在它那里，开始的时候用一些好的单子来诱惑你，当你失去了‘扫街’的基本技能，想着守株待兔靠平台来派单的时候，你就失去了选择劳动方式和控制自己劳动过程的主动性。平台要的是司机之间的竞争和猜疑，你需要自己掌握劳动技能，否则就只能任人摆布。”第二个故事来自于滴滴顺风车杀人案前一天曾经投诉过同一个司机的女性，她投诉后滴滴并没有及时回应和处理。第二天发生了杀人案之后，她在微博和公共媒体的采访中都表示了“深深的自责”，认为自己如果当时“不畏缩，去报警”，“这23岁的姑娘会不会就不会有事了”。

从这两位普通人身上我们可以感受到公众朴素的价值观和对社会利益的关切，完全可以通过公共领域的激荡、信息的交流和讨论，形成对平台和“算法”非常具体、到位的认识与批评。在涉及企业治理，尤其是新科技企业的治理时，通常我们习惯于所谓“利益相关方”的思维方式，更多由专家、法律代理人和企业代表来参与制定相关政策的讨论。但是，既然新的基于算法的平台科技已经代表着人类传统生活方式的重新组合和创造性改革，我们需要让公众提供与新科技共处体验的不同面向，并且相互交流，才可能更全面地思考人类与“算法”共处并且“驯服”算法的方式。吊诡的地方在于，新技术所带来的传播潜力，在资本逻辑的垄断下，可以导致“算法”霸权与人的本质能力的退化，而在公共领域的价值模式下，又是克服“算法”异化的重要前提。我们需要思考如何在数字化与社交媒体的时代重新激活公共领域的理想与实践。

注 释

[1]2012年成立，多轮融资，收购Uber，滴滴从一开始就是错的[EB/OL].https://www.admin5.com/article/20180831/874032.shtml

[2]Nick Dyer-Witheford, Cyber-Proletariat: Global Labor in the Digital Vortex, Pluto Press, 2015.

[3]Carole Cadwalladr, “‘I made Steve Bannon’s psychological warfare’: meet the data war whistleblower.” https://www.theguardian.com/news/2018/mar/17/data-war-whistleblower-christopher-wylie-faceook-nix-bannon-trump

[4]Paul N. Edward, The Closed World: Computers and the Politics of Discourse in Cold War America (MIT Press, 1997).

[5]Andrew Smith, “Franken-algorisms: the deadly consequences of unpredictable code.” https://www.theguardian.com/technology/2018/aug/29/coding-algorithms-frankenalgos-program-danger?CMP=Share_iOSApp_Other&from=groupmessage

[6][德]马克斯·霍克海默，特奥多·威·阿多尔诺.启蒙辩证法（哲学片段）[M].洪佩郁，蔺月峰，译.重庆：重庆出版社，1990