当前位置:首页 > 新闻 > 正文

人工智能中的三个经济伦理问题

发布时间: 2019-08-09 15:28   作者: 陈永伟   来源: 人工智能杂志

  人工智能技术正在蓬勃地发展。然而,在发展的过程中,它也对现有的规则和伦理产生了冲击并引发了不少的问题。经济伦理问题正是其中很重要的一方面。本文将讨论三个人工智能发展中涉及到的伦理问题:一、利用人工智能进行“个性化”所引发的经济问题;二、人工智能技术的使用所引发的分配问题;三、人工智能的使用所带来的“技术性失业”。

  人工智能的迅速发展,让历次科技革命和产业变革所积蓄的巨大能量开始得到释放,为经济增长提供了新引擎,让社会生产力获得了极大的提升。它正在对生产、分配、交换、消费等各个经济环节进行重构,催生出大量的新技术、新产品、新产业、新业态、新模式,引发经济结构、生活方式,乃至思维方式的重大变革。需要指出的是,目前的人工智能技术还处于“弱人工智能”阶段,如果“强人工智能”“超人工智能”取得了突破,它所激发出的生产力将更为强大。可以毫不夸张地说,相比于之前的历次科技革命,“人工智能革命”要来得更猛烈、更彻底。

  不过,作为一项新的技术,人工智能的蓬勃发展也冲击着现有的规则和伦理,并由此产生了一系列的问题。为了让人工智能技术在未来保持持续、稳定的发展,让它可以始终增进而非损害人们的福利,我们就必须对这些问题进行积极的回应。本文将着重讨论其中的三个问题:一是利用人工智能进行“个性化”所引发的经济问题;二是人工智能技术的使用所引发的分配问题;三是人工智能的使用所带来的“技术性失业”。

  一、懂你的人却伤害你最深:“杀熟”的是与非

  越来越多的“杀熟”问题

  互联网兴起后,尤其是人工智能技术发展之后,企业可以很容易地对消费者的身份和行为数据进行搜集,并通过机器学习对他们的支付意愿和支付能力进行推断。在拥有了这些信息之后,企业的定价能力有了很大的提升,“个性化”的服务开始大规模地出现。

  在欧洲委员会的一份报告中,“个性化服务”被分为三种形式:个性化广告、个性化搜索和个性化定价(European Commission,于2018年)[1]。 按照报告的观点,尽管三种“个性化”在形式上存在着差异,但从本质上看却是一致的。前两种形式从某种意义上都可以被视为是个性化定价的一种变体。基于这一原因,我们在此仅对个性化定价进行讨论。

  所谓“个性化定价”,其实是一种更为精细化的价格歧视形式,企业观察消费者此前的异质性,并以此为基础来制定价格(UK Office of Fair Trading,与2013年)[2]。 从本质上讲,“个性化定价”事实上是三类价格歧视的一种特例。随着企业所掌握的消费者信息的增加,它们对消费者的分类变得更为细致,定价的差异化也随之提高。在极端情况下,如果企业掌握了足够的信息,可以把所有消费者的支付意愿和支付能力都甄别出来,它就可以对每一个消费者制定不同的价格。这时,“个性化定价”的结果就变成了一类价格歧视[3]。

  当然,由于资源约束或其他种种原因,企业很可能只掌握某一部分消费者的信息。对于这部分消费者,企业将更容易将价格制定得接近其最高意愿支付,从而攫取其全部的消费者剩余。因此,被企业掌握信息越多的消费者,其被索取的价格就可能越高。因为这个原因,“个性化定价”也经常被通俗地称为“杀熟”。

  早在2000年,亚马逊就尝试了“个性化定价”策略[4]。当时,亚马逊根据消费者的上网Cookies对用户的忠诚度进行推断。同样的DVD,对于一般消费者的索价为22美元,而对于被判定为忠诚用户的消费者,其索价就上升到了26美元。亚马逊的这一定价策略很快被消费者发现并被投诉,此后它就很快停止了这一策略。近年来,随着人工智能技术的突飞猛进,企业获取和分析消费者信息的能力有了巨大的提升。与之相伴的,企业进行“个性化定价”的能力也有了巨大的改进。只要我们关心一下新闻,就会发现不断有关于“个性化定价”或“杀熟”的报道见诸报端(如表1所示)。

  北京市消费者协会曾对北京市消费者进行了一次关于“杀熟”的调查。结果显示,65.05%的被调查者认为大数据“杀熟”现象很普遍;23.27%的被调查者认为大数据“杀熟”现象普遍存在;认为大数据“杀熟”现象存在一般或不普遍的被调查者占比分别为7.03%和4.65%;没有被调查者认为大数据“杀熟”现象不存在。在所有的App中,购物类、在线旅游类、打车类、外卖类和视频类App被认为是“杀熟”问题最为严重的。

  “杀熟”的分配后果

  频发的“个性化定价”和“杀熟”问题,引发了社会各界的广泛热议。究竟这种现象应该被认定为是一种正常的商业活动,还是一种不正当竞争行为,目前还存在着不小的争议。从经济伦理角度看,“个性化定价”所涉及的问题主要是效率与分配之间的矛盾。

  如果从纯功利主义的角度看,包括“个性化定价”在内的价格歧视通常都是有效率的。这是因为不同消费者对于同一商品的意愿支付是不同的。如果企业出于利润最大化的考虑,对商品实施统一定价,那么很多意愿支付水平较低的消费者的需求就难以得到满足。相比之下,如果价格歧视是可能的,那么企业出于对利润的追求,会用更低的价格来吸引部分意愿支付水平较低的消费者。这样一来,这些原本被排除在市场之外的消费者的需求就得到了满足。在这个过程中,更多的“剩余”也就随之被创造了出来。在Amstrong(于2008年)的文章中,就曾把这种效应称为“市场创设”(market open)[5]。极端的,如果企业可以对消费者实施一类价格歧视,那么从理论上讲,它所能实现的社会总福利将等同于完全竞争的水平,即理想中配置效率最高的水平(Tirole于1988年;Pepall等人于2014年提出)[6]。

  不过,“个性化定价”在促进总效率(以社会的总剩余为衡量)的同时,也带来了显著的分配效应。换言之,它把“蛋糕”做大了,但并不是所有人都能吃到更多的“蛋糕”,甚至有的人因此失掉一部分“蛋糕”。

  那么,“个性化定价”会让分配格局发生怎样的变动呢?

  首先,它会让更多的“消费者剩余”转化为企业的利润。经济学理论告诉我们,当企业可以对消费者进行更为精准的分类,并据此制定不同的价格时,它们就可以将更多的“消费者剩余”转化为自己的利润。对消费者的识别越精准,它们得到的利润就越多[7]。

  其次,它还会引发消费者内部的利益分配变动。由于数据搜集能力以及其他的原因,现实中的企业往往只能搜集到一部分消费者的充足数据,并对他们采取“个性化定价”。事实上,在大量关于“杀熟”的报道中,企业针对的主要目标就是那些充分掌握信息的“熟客”,而对于“生客”则会继续采取统一的定价。在这种情况下,利益的分配除了发生在企业和消费者整体之间,还会发生在“熟客”与“生客”之间。

  我们可以用一个示意性的例子来对此进行说明:假设市场上只有一个垄断厂商,其生产商品的边际成本MC=0。同时,市场上存在着10个消费者,他们对商品的最高意愿支付分别为9元、8元、7元、6元、……0元。容易知道,当垄断企业将价格定在5元时,它可以实现利润的最大化。此时,只有意愿支付不低于5元的消费者会购买商品,他们获得的消费者剩余分别为4元、3元、2元、1元、0元,消费者剩余总额为4+3+2+1+0=10元。与此同时,垄断企业获得了25元利润。因此,其社会总福利为10+25=35元。

  现在将存在“杀熟”的情形考虑在内。如果企业只掌握意愿支付最高的两名消费者的充足信息,并对他们进行“杀熟”,而对其他消费者索取同样的价格。那么,对于被“杀熟”的两名消费者,他们索要的价格分别为9元和8元。如果将剩下的那部分消费者视为一个独立的市场,那么容易知道企业利润最大化的定价为4元。容易知道,在存在“杀熟”的情况下,消费者总剩余为3+2+1+0=6元,要小于不存在杀熟的情况。而企业的利润则上升到了33元。社会总福利也上升到了39元。这说明,如果仅以社会福利作为评判标准,那么“杀熟”是有可能实现效率增进的。不过,这种效率增进显然伴随着明显的分配效应。一方面,一部分消费者剩余被转化到了企业手中。换言之,企业利用“杀熟”对消费者实现了某种意义上的“剥削”。另一方面,在消费者内部,也存在着福利的转移。被“杀熟”的那部分消费者被剥夺了所有的消费者剩余,因此福利下降了;而没有被“杀熟”的那部分消费者,则获得了更低的价格和更多的商品供应,因此其福利获得了改善(如图1所示)。

  如何应对“杀熟”问题

  很多人愿意把“个性化定价”问题的处理难点界定在算法上,认为由于人们很难对作为“黑箱”的算法进行监管,所以才给予了企业利用人工智能算法侵害消费者利益的可能。但在我看来,这个问题的焦点其实并不在于算法或其他技术层面上的问题。事实上,相比于人脑的思考,人工智能算法还是相对简单和直接的,一旦我们设定好了目标,将它变成了程序,电脑就会按照程序所指示的那样去完成目标,而不会像人类决策那样受到其他因素的干扰。

  真正麻烦的是,究竟应该给算法设定怎样的目标,这一点我们还没有想好。正如我们看到的,“个性化定价”本身是能够提升经济效率,能为整个经济创造更多价值的。但与此同时,它又会带来利益的分化,导致一些人得益、一些人利益受损。所以,这个问题的真正症结其实是如何平衡好效率和公平,如何处理好不同利益主体之间的利益关系。

  对于如何破解这个问题,笔者并没有确切的答案,但是有一个思路应该是值得考虑的。我们知道,在经济学中有两个衡量效率的标准,一个是“帕累托标准”,另一个是“卡尔多-希克斯标准”。其中,“帕累托标准”的要求比较强,它在比较A、B两种状态时,要求只能当在A状态下所有人的福利都不差于在B状态下,并且至少有一个人在A状态下要好于在B状态时,才能说A状态优于B状态。而“卡尔多-希克斯标准”则要宽松得多,它只要求在A状态下的财富总量多于在B状态下,就可以说A状态优于B状态。在这两个标准中,“帕累托标准”显然更符合我们惯常的伦理标准,而“卡尔多-希克斯标准”则显得更为功利,与我们习惯的伦理标准不一致。不过,如果这个社会有一个补偿机制,通过一些转移支付的手段,将一部分人的收益转移给另一部分人,一个符合“卡尔多-希克斯标准”的进步就可以转化为在“帕累托标准”上的进步。

  应用这两个标准,我们很容易知道,通过“个性化定价”,整个经济会出现“卡尔多-希克斯”意义上的效率改进,但这个改进显然不是“帕累托”意义上的改进。不过,在这种状况下,如果我们可以建立起一套转移机制,那么“个性化定价”依然有机会成为一个“帕累托改进”。例如,在我们上面的数字例子中,企业就可以设计这样一个机制:允许消费者选择是否采用个性化定价。如果消费者选择使用个性化定价,将可以在某一时间得到一笔定额的现金返还;而如果消费者选择不使用个性化定价,则需要交纳一笔服务费。我们看到,由于在实行“个性化定价”后,社会的总剩余是增加的,因此只要这个机制的设计得当,从理论上就可以兼顾企业、生客、熟客之间的利益,让他们的福利共同实现上升。除此之外,根据各种公平的理念,我们还可以将这个机制进行微调,从而满足这些理念所倡导的标准。

  以上内容精选于《人工智能》杂志第十一期

  本文作者

  陈永伟

  经济学博士,研究领域为产业经济学、法律经济学。已在中英文学术期刊上发表论文50余篇,在报刊上发表评论文章数百篇。现为《比较》研究部主管,同时也是《经济观察报》、财新等媒体的专栏作家。

  欲阅读完整文章,可通过以下方式购买《人工智能》杂志!

  订阅2019年《人工智能》杂志6期共计360元

  银行转账:北京赛迪出版传媒有限公司

  开户行及账号:中国建设银行股份有限公司北京紫竹桥支行11050170560000000152

  银行转账,请备注:人工智能

  接收详细信息请发到:aiview@ccidmedia.com;或是添加客服微信:13601092749

收藏