当前位置:首页 > 新闻 > 正文

人工智能在行政司法中的伦理考量

发布时间: 2019-08-09 15:26   作者: 李勇坚、桂宁   来源: 人工智能杂志

  随着人工智能对社会各个领域的深入,人工智能进入行政司法领域也将成为一种现实。在行政司法领域中,人工智能的应用能够提高决策效率,并减少犯错误的概率。由于人工智能决策更多地依赖于数据输入,受到决策者个人情感因素的影响较小,也减少了行政司法领域中腐败的机会。然而,行政司法领域凝聚了更多的道德、情感,乃至人类地位等因素。如果以人工智能作为其中的主宰,则将对人类长期以来的人类中心地位带来很大的挑战,人类如何接受机器的裁判将成为一道难关。人们需要对其所带来的问题进行预先研究,并采取相应的预防措施。

  人工智能对社会各个领域的渗透越来越深入,人工智能技术在行政司法领域的应用前景也非常广阔。人类社会发展至今,社会领域的管理仍是人类主导的。在人类主导的社会管理中,所有的感知、决策、管理、控制全部都是局部信息,都是由一个局部的单位完成的。这种分割式的决策模式使行政司法领域的决策效率较低,而且因为取决于决策个体的能力,犯错误的概率较大。将人工智能引入行政司法领域之后,一个重要的特征就是可以利用全局的信息,利用快速的分析能力,实现社会管理决策的数字化与智能化,从而提高决策效率,并减少犯错误的概率。此外,由于人工智能决策更多地依赖于数据输入,受到决策者个人情感因素的影响较小,也减少了行政司法领域中腐败的机会。尤其是在争议较大的行政审批、司法等领域,引入人工智能之后,可以最大限度地减少因为决策主体或司法主体的腐败行为而带来的不公正、不公平的问题,有利于社会稳定。

  早在一个世纪之前,马克斯·韦伯也曾指出,法官的工作被限定为单纯地解释法律和契约,就像是法律的自动售货机,人们在机器上投入事实(加上费用),机器下面就会吐出判决(及其理由)[1]。按照韦伯的构想,以智能机器替代执法工作者的工作具有天然的合理性。到21世纪初,有研究者指出:“人工智能已经被认为具有在许多领域,包括法律领域中,能够替代人类专家的潜在可能性。”[2]尤瓦尔·赫拉利(Yuval Harari)在其著作《未来简史》中提出[3],如果人工智能发展到一定的水平,人工智能将获得统治地位,法律将以数字化的方式呈现。在这种数字化的法律体系下,算法将取代人类法官,成为司法领域的裁决者。相比于人为判案具有的主观性以及法官自身能力的局限性,算法系统作为一种精细化、具体化和绝对刚性的规则,将最大限度地保持案件判决的公平性。算法即法律将成为一种现实。

  在中国,为了解决腐败、司法效率等多个方面的问题,将人工智能引入行政司法领域的实践发展得较快。2017年7月,国务院印发的《新一代人工智能发展规划》中,对人工智能在社会治理领域的应用作了重点安排。《规划》提出,将围绕包括司法管理在内的社会治理的热点难点问题,促进人工智能技术应用,推动社会治理现代化。2016年11月17日,在第三届世界互联网大会智慧法院暨网络法治论坛上,中国首席大法官、最高人民法院院长周强指出:“将积极推动人工智能在司法领域的应用。”2017年4月20日,最高人民法院印发《最高人民法院关于加快建设智慧法院的意见》,对将法院管理信息系统智慧化,形成智能平台等相关事宜提出要求。2018年7月,中央政法委书记孟建柱出席在贵阳召开的全国司法体制改革推进会时强调,要“更加积极主动拥抱大数据、人工智能新时代,把理念思路提升、体制机制创新、现代科技应用和法律制度完善结合起来,全面落实司法责任制及相关配套改革”。中国司法行政领域正在从工业时代、信息时代中信息管理系统的应用过渡到智能时代中人工智能的深入应用。

  因此,无论是从理论上看,还是从实践上看,人工智能进入人类的行政司法领域都将成为现实。然而,人类行政司法领域具有特殊性,该领域被认为凝聚了更多的人类道德、情感乃至人类的地位等因素,如果以人工智能来作为其中的主宰,对人类长期以来的人类中心地位是一种很大的挑战,即人类如何接受机器的裁判。对于法学家与伦理学家而言,他们对人工智能介入到行政司法领域持不同的看法。Danielle Keats Citron和Frank A. Pasquale(于2014年)认为,如果人工智能能够对人类进行“评分”(Scoring),那么程序正当性(Due Process)将非常重要[4]。美国马里兰大学法学教授丹尼尔·西特伦(Danielle Citron)在其论文《技术正当程序》中指出:“人们应该在规则设立之初就考虑其公平性与准确性问题,而这种公平性与准确性问题仅仅依靠技术人员是无法达成的。”高奇琦(于2018年)认为,人类应防止算法独裁[5]。丽莎·A·谢伊、伍德锣·哈特佐伊、约翰·尼尔森、多米尼克·拉金和格雷戈瑞·康蒂(于2018年)认为,在引入自动化执法系统时,建立对其监控的法律制度体系尤其重要[6]。克里斯汀·汤姆森(于2018年)则认为,应对机器人审讯进行合宪性审查[7]。人工智能在行政司法领域的应用是不可避免的,因此需要对其所带来的问题进行预先研究,并采取相应的预防措施。

  一、行政司法领域引进人工智能的可能性及实践

  行政司法领域引进人工智能有其独特之处。一方面,像所有的其他领域一样,行政司法领域也可以通过人工智能技术的应用提高其运行效率。这种应用模式,可被称为技术型应用。另一方面,由于行政司法领域的特殊性,人工智能还可以用于这些领域的裁决阶段,即对人类行为做出价值评判。也就是说,人工智能利用人类赋予的权力对人类的行为做出裁决。在这个领域将产生大量与人类伦理规则相关的问题。强调逻辑性与理性的人工智能如何与现有的社会裁决模式相匹配,是一个值得深入思考与研究的问题。

  人工智能在行政司法领域的技术型应用

  对于行政司法领域而言,如何利用先进技术一直是一个重要的命题。早在19世纪,杰里米·边沁(Jeremy Bentham)就曾构想过一种全景式监狱(或称作圆形监狱,panopticon),这种监狱对管理者而言是全透明的,因此,管理者能够非常便利地监督每一个被囚禁者的一举一动,从而使这些行为能够得到更好地矫正。利用人工智能和大数据手段,能够对社会公共场所进行更加全面的监控,从而能够更好地预防犯罪行为。利用人工智能手段识别性犯罪并进行预防,已成为很多城市管理中的一种重要手段。朗伯·鲁亚科斯和瑞尼·凡·伊斯特费图尔斯(于2018年)认为,无人机的广泛应用使人类社会正在成为“机器人空中圆形监狱”[8]。在我国的行政管理领域,很多政府机关在实施电子政务的过程中也引进了人工智能系统,这种系统能够对各种审批材料进行初步的审核,从而提高了审批的效率与准确性。

  人工智能在司法领域的应用变得更为广泛,这对于中国而言有着非常现实的意义。中国已进入各类案件诉讼的高发期。以刑事案件为例,全国各级法院审结一审刑事案件数量分别为109.9万件和111.6万件,比上年增加了7.5%和1.5%;基层法院刑事法官人均年结案数量为200件以上。巨大的案件数量使法官无法对每个案件的证据识别、法律适用等诸多问题进行全面、深入的考量,从而导致了很多错案的产生。同时,由于法官素质等方面的问题,也产生了不少涉及徇私枉法等方面的案件。

  在此背景下,将人工智能应用到证据认定、法律适用等方面,不但能够提高法官的效率,还能减少错案率,并预防司法腐败。因此,人工智能在司法行政方面的应用受到了重视。在理论上,Pamela S. Katz(于2017年)指出[9],法律界并不排斥信息技术的应用,他们能够接受使用信息技术处理案例管理、法律条文检索、与审判相关的远程通讯等事务,但是对于应用各种智能技术对实体权利与义务作出处置或者只是协助处理,法律界仍心存疑虑。目前能够得到法律界认同的就是,在复杂的诉讼案件中,可以由人工智能系统参与对证据的认定;在法庭审理过程中,可以应用智能系统在复杂的案情中理清焦点,找到问题的关键,这是提高裁决效率的一种必需(de rigueur)。进一步说,这些先进的技术在专家证言的可采性方面仍有很大的空间。例如,在Daubert v. Merrell Dow Pharmaceuticals, Inc.一案中,法官扮演一位“守门人”的角色,仅将与案件事实有关联性的、可采性的证据作为认定案件事实的证据。在很多时候,法官需要对专家意见、案件所涉及的复杂性科学问题等进行评判。然而,法官往往会缺乏此方面的经验,因为这不属于法律专业领域。而人工智能的应用能够协助法官在这些与复杂性科学相关的证据方面作出决策,使法官能够就这些问题作出评判。人工智能应用到法律领域将使法官能够作出更加全面的判断。

  在中国,要更加积极主动拥抱大数据、人工智能新时代,把理念思路提升、体制机制创新、现代科技应用和法律制度完善结合起来,全面深化司法体制改革,努力创造更高水平的社会主义司法文明。部分法院尝试开发了人工智能办案系统,在公检法共享办案平台上初步实现了证据标准和证据规则统一、单一证据合法性校验、证据链逻辑性判断和比对、类案推送、量刑参考和文书自动生成等方面的智能化(潘庸鲁于2017年提出) [10]。例如,上海法院系统上线了“上海刑事案件辅助智能办案系统”,该系统能够为法官提供证据认定、法律适用、辅助生成裁判文书等多方面的功能。

  在美国等发达国家,人工智能也正在渗透到司法领域中。2017年4月11日,美国首席大法官罗伯茨在与纽约伦斯勒理工学院校长的一场对话中被后者问道:“你能否预见将来有一天,由人工智能驱动的智能机器将协助法庭认定事实,甚至颇具有争议地介入司法裁决程序?”罗伯茨回答道:“这一天其实已经到来,而且这已经让司法实务的运作方式面临着巨大的压力。”人工智能对人类的是非曲直或者实体权利义务的评判,正在悄然成为现实。美国司法及相关部门广泛应用的COMPAS风险评估系统实质上是一个人工智能系统,这个系统能够利用数据与算法对被告的“风险程度”进行评估。这些评估包括,如果此人获得自由,是否会实施下一次犯罪;如果此人被保释,其出庭时间是否能得到保证;此人犯罪应受到的刑罚等。COMPAS是由Northpointe公司设计的一款风险需求评估工具。COMPAS风险评估所依据的信息从被告的犯罪档案和与被告的访谈中采集。通过这种信息采集行为,系统对被告存在的可能的危害性进行评估,并据此做出量刑建议。尽管引起了巨大的争议,COMPAS风险评估系统仍在各州运行。

  行政管理领域的人工智能已渗透到政府的各个方面。这里的问题本质是人工智能能否对人进行管理,或者更深入地考虑,是人工智能与人类中心主义之间的张力。自从人类建立起社会组织开始,人类的管理行为都是由人完成的,人类自认为是“万物的灵长”。因此,对人类行为的管理或者评判只有人类自身才能完成,对人类采取各种管理措施也同样是人类基于某些规则做出的判断。在人工智能时代,人工智能开始介入到对人类管制的过程中,这是关乎到人类主体性的根本性问题(何哲于2017年提出) [11],是一个全人类面临的根本性的伦理问题,这个问题值得全面、深入地进行思考。

  人工智能应用于行政司法裁决的实践

  从目前来看,还并没有与完全由人工智能自主进行司法裁决相应的案例。然而,以中国为代表的很多国家正在此方面进行积极的探索。

  2017年7月28日,在杭州举办的2017“法律+科技”领军者国际峰会上,最高人民法院司法改革领导小组办公室规划处处长何帆表示,最高人民法院一直在努力地把人工智能引入办案系统。他认为:“人工智能对法院未来的模式会有很多的改变。比如,它改变了法官的判断和决策的模式。过去法官根据自己在庭上的所看所想,以及他对法律的理解就可以做判断,但是现在可能需要用人工智能软件进行推演。此外,人工智能对我们的诉讼流程产生一些改变。随着人工智能的推进,未来可能要制定一部互联网的诉讼法。”[12]从现有的很多办案系统来看,其实已具备了自动生成裁判文书的功能,只是因为各种原因,该功能未能生效。据学者研究,以刑事案件为例,相关法院的办案系统智能化主要表现为以下五个方面:一是公检法建立互联互通共享的办案统一平台;二是打破侦查中心主义,制定统一的证据规则和证据标准指引,并明确不同诉讼阶段的证据要求,引导办案人员依法、全面和规范地收集证据;三是具备单一证据校验功能,系统对证据自动校验收集程序、形式要件和内容要素是否合规和合法;四是具备证据链逻辑分析和判断功能,办案系统以贴标签的方式自动抓取证据核心要素,并依据一定规则进行逻辑比对,还可以发现证据之间是否存在矛盾,并提示办案人员需做出合理解释;五是案件类推和量刑参考功能,系统依托大数据、云计算等技术,解构分析裁判文书,抓取影响裁判结果的量刑要素,同步为法官推送案情统计分析、匹配数据库中全国相似的案例,为承办法官提供量刑参考,并自动生成司法文书。此外,办案系统还具有逮捕条件审查、社会危险性评估、证据链和全案证据审查判断等多项功能,同时还将图文识别、语音识别、算法等技术融入该系统。综上,办案系统具有了识别区分、校验判断、逻辑比对、矛盾排除、自动推送和生成等强大的智能性(潘庸鲁于2017年提出)。

  在行政管理方面,由人工智能自动生成处罚单据等功能很早就在运行中。例如,在交通违法处理方面,人工智能事实上已经承担了大部分的任务。在安检、城市治安管理等方面,以人脸识别、监控录像等为数据收集来源,结合后台的数据库,正在发挥巨大的作用。但是,这些方面的问题仍只是问题的表面,即人工智能或者其他信息技术作为人类的助手或工具,为人类社会管理提升效率做出贡献。随着人工智能越来越强大,它将以更高的效率和更加使人信服的方式对人类的行为做出评判。而人类在很多行政管理方面的主观性、低效率性、盲目性等问题都将被人工智能纠正,这将使人类进一步依赖人工智能的行为。因此,有学者指出,只允许弱人工智能参与到人类管理活动,而严禁强人工智能的参与,是一种不可能实现的理想状态。因为强人工智能与弱人工智能并不像自然生物个体一样容易分辨,所以强人工智能不断参与核心的管理与决策并逐渐替代人类,将成为一种必然(何哲于2017年提出)。

  以上内容精选于《人工智能》杂志第十一期

  本文作者

  李勇坚

  中国社会科学院财经战略研究院研究员、互联网经济研究室主任、博士生导师,研究方向为服务经济、互联网经济理论、互联网金融。在国家核心期刊发表论文50余篇,曾参与国家“十一五”、“十二五”、“十三五”服务业发展规划的研究编制工作,参与《国务院办公厅关于加快发展高技术服务业的指导意见》(国办发〔2011〕58号)、《关于促进分享经济发展的指导性意见》(2017)、《服务业创新发展大纲(2017—2025年)》(2017)等文件的起草或研讨工作,并承担多项与数字经济相关的课题。

  桂 宁

  现任百度公共政策研究院高级研究员,中国公路学会自动驾驶工作委员会常务委员、信息系统项目管理师。毕业于北京理工大学车辆学院交通工程专业,获得中国社会科学院MBA、北京工业大学交通运输工程双硕士学位。负责百度自动驾驶领域政策及行业研究,深度参与北京、雄安新区、长沙等地自动驾驶政策的制定。

  欲阅读完整文章,可通过以下方式购买《人工智能》杂志!

  订阅2019年《人工智能》杂志6期共计360元

  银行转账:北京赛迪出版传媒有限公司

  开户行及账号:中国建设银行股份有限公司北京紫竹桥支行11050170560000000152

  银行转账,请备注:人工智能

  接收详细信息请发到:aiview@ccidmedia.com;或是添加客服微信:13601092749

收藏