当前位置:首页 > 新闻 > 正文

人工智能时代的法治畅想

发布时间: 2019-08-09 15:24   作者: 何海锋   来源: 人工智能杂志

  法治不仅仅是要考虑当下,还要考虑未来。随着深度学习等技术的发展进步,AI技术与各行各业的融合应用越来越广泛,人工智能技术正不断深刻影响着社会和人们生活的方方面面。但同时,人工智能等新兴技术的出现也向人们提出了新的问题,人工智能时代的伦理和法律将以怎样的面貌呈现?本文将以法治的角度出发,浅谈一些人工智能时代的法治畅想。

  2019年的世界人工智能大会即将召开,本届大会的主题是“智联世界,无限可能”。这个大会的主题恰如其分地反映出当前人工智能发展的趋势和人们的期待。随着人工智能在无人驾驶、教育、医疗、传媒、工业等领域的全面应用,人工智能时代已经款款向我们走来。在人工智能面前,法律该以什么样的姿态去迎接?法治在人工智能时代将以什么样的面貌出现和发展?

  从本质上说,法治是由社会生活条件决定的。一个时代的法律,必然根植于这个时代的生产资料、生产力和生产关系,既不可能脱离,也难以超越。社会生活条件的变化,必然导致作为上层建筑的法治的变化,正如无论是中国小农经济时代的宗法制,还是欧洲中世纪的宗教法,都必然被市场经济条件下的现代法治所取代。从规律上来看,法治的变化虽然是必然的,但我们要认识到,这种变化既不是同步的,往往也不是线性的,更可能是存在滞后、曲折和反复的——当然,也可能是前瞻的或超前的。因此,在人工智能时代面前,法治既可能是主动的,也可能是被动的—我们应当争取主动;既可以选择无视,也可以选择拥抱—我们应该积极去拥抱。主动拥抱人工智能,畅想法治的未来前景,应该是当下每个法律人内心最柔软的一部分。

  一、机器人可以立法吗?

  2018年10月17日,英国议会邀请日本软银机器人公司开发的一个机器人参加下议院的听证,引起了广泛关注。机器人参与人类的立法,这件事本身就充满了想象力。

  机器人立法关系到了“人权”,人类独一无二的尊严和自信。政治权是人权的重要组成内容,而人权的内涵和外延一直在变化。回顾人类文明进程,那些曾经被认为天然没有人权的人,后来都慢慢获得了应有的尊重。在美国,直到南北战争结束的五年后,宪法第15条修正案才赋予黑人选举权,而真正落实到位已经是20世纪后半叶的事情了;妇女正式获得选举权则更晚一些,直到1920年美国宪法第19条修正案的通过。历史并不遥远,历史也很真实。人类早已经开始讨论“动物权利”,主张动物不再被作为人类的占有物而存在,那么讨论“机器人”的“人权”似乎也并非杞人忧天的无稽之谈。

  机器人立法与资源的分配相关。立法的本质是资源分配。立法权是由许多不同职能、不同级别、不同层次的专门机关构成的一个体系,并不是这个体系中的所有主体都天然有权立法。到底哪些主体有权立法,在不同的国家,同一国家不同的历史时期,是不一样的[1]。在历史上,立法权力的分配,往往跟生产力相关[2]。那么,既然人工智能已经是先进生产力的一部分,如何在立法权力的分配中给予其应有的地位,就是一个值得思考的命题。当机器人贡献了人类GDP的主要部分,当他们形成了真正的“利益集团”时,是不是也应该发出自己的声音,维护自己的利益?退一步讲,立法权在具体职权上也是有细分的。拥有立法权的主体,由于其不同的性质,所处的不同层级,在立法职权上是有区分的。因此,有没有可能让人工智能体参与某一方面的立法职权,或者让渡某一较低层级的立法权——比如在涉及产业政策或科技政策方面的立法?

  机器人立法与民主的品质相关。民主性是现代立法最重要的正当性来源。几千年来,关于直接民主与间接民主的争论从未停止[3]。在以往的争论中,人们为以代议制民主为代表的间接民主辩护,总会提到实现直接民主的效率和成本问题。但现在,随着人工智能技术的发展,民意不仅完全可以在某一个时刻实现完整的显示,而且完全可能做到每时每刻的显示。在很多国家,人工智能在预测选民意愿、评估立法效果等方面已经得到充分运用,Facebook数据泄露事件只是冰山一角。在立法中,如何运用人工智能提高民主的质量,同时规避民主被操纵,也是一个很值得思考的问题。特别是如果某一天出现诸如“立法机器人”这样的,在立法领域有着高超技艺的人工智能体的时候,人类是否可以让渡一部分的立法权?

  2018年9月,十三届全国人大常委会公布了立法规划,个人信息保护法、数据安全法都已列入任期内拟提请审议的法律草案。而人工智能也进入了立法条件尚不完全具备、需要继续研究论证的立法项目。相信全国人大在正式启动人工智能立法的时候,也有可能面临这些问题,到时候是不是也需要像英国议会学习,听听机器人的“意见”?

  二、执法机器人能走多远?

  如果说立法权是民主社会最重要的权利,涉及到基本人权,人类比较难以接受让渡,那么行政执法权就不一样了。因为行政执法权是对立法权的执行,政府本来就是权力让渡的结果,是一种代理关系。如果在政府及其公务人员之外,能找到更称职的代理人,是不是可以考虑让他们来行使行政执法权?实际上,这方面已经有所实践,这两年较热门的“监管科技”和“执法机器人”背后的法理逻辑部分可以追溯到这里。

  虽然目前人工智能在行政执法中还处于技术辅助阶段,但我们要看到,行政执法引入更多的科技元素是大势所趋,最终的智能执法也完全可以期待,而科技的参与程度是在法律上值得探讨的问题。

  例如,执法机器人作为现代证券监管的重要组成部分,其最终完成形态还可能以行政执法替代者的角色出现。因此,其必须要在行政法的法律框架内运行,既要遵循行政执法的基本法律原则,又要以行政法为根本依据,还要明确相应的权利、义务和责任。

  执法机器人要遵循行政法的基本原则,特别是程序正当原则。比如,行政执法的依据(包括规章、规则和工作制度)应当公开,依据调查结果对证券违法行为作出的处罚决定也应当公开。引入人工智能后,公开什么,如何公开,公开到什么程度,都应当做出规范。再比如,行政机关进行监督检查或者调查,其监督检查、调查的人员不得少于两人,并应当出示合法证件和监督检查、调查通知书。以人工智能为依托开展的检查或调查,其正当性程序也要做出具体设计。

  执法机器人以行政法为根本依据。从现代行政法原理上来说,行政执法(自律监管)的权限和手段应当有明确的法律依据,特别是从“辅助”滑向“自主”的横轴上,应当标出比较清晰的刻度,否则可能引发“不作为”或者“乱作为”的质疑。比如,监管人员必须忠于职守,依法办事,公正廉洁,不得利用职务便利牟取不正当利益,不得泄露所知悉的有关单位和个人的商业秘密。对于执法机器人,也要考虑同样的要求,尤其要注意规范利益冲突和可能出现的信息泄露等问题。此外,从法律渊源上来说,执法机器人由于其突出的数据和科技属性,数据和技术的各类标准也是重要的法律渊源。2018年9月,证监会发布《证券期货业数据分类分级指引》《证券期货业机构内部企业服务总线实施规范》《期货市场客户开户数据接口》《证券发行人行为信息内容格式》等4项行业标准,就是证券执法领域监管科技的重要依据。与此密切相关的还有,在人工智能时代,这里的“法”是否包括“算法”?能否通过运用区块链技术制定一套共识机制,以智能合约的方式实现自动执法,让法律自动得到执行?这对于提高行政效率、减少执法者主观因素干预,都是极为有益的。

  执法机器人应当明确相应的权利、义务和责任。和传统的行政法律关系不同,引入人工智能的维度后,行政执法中的科技元素就不再是附属的地位,而会成为独立的一方。在智能监管的情况下,“科技中立”在法律上是否依然成立就是个值得考虑的问题。即使科技是中立的,对于科技的开发者和使用者该如何分配权利义务也要作出相应的回应。2018年12月,证监会发布《证券基金经营机构信息技术管理办法》,其中第7条规定:“证券基金经营机构应当完善信息技术运用过程中的权责分配机制,建立健全信息技术管理制度和操作流程,保障与业务活动规模及复杂程度相适应的信息技术投入水平,持续满足信息技术资源的可用、安全性与合规性要求。”该《办法》提出了信息技术运用过程中的权责分配的要求,可以看做是对未来监管方运用更先进的科技手段发出的一个先声。

  行政法中同样重要的一条原则是信赖保护原则。甚至有学者认为,就像诚信原则是民法上的“君临全法域的基本原则”一样,信赖保护原则也是行政法领域的“帝王原则”,其基本含义是政府对自己做出的行为或承诺应守信用,不得随意变更,不得反复无常[4]。如何让政府的行政行为前后一致,不被篡改,是行政法上的一个难题。但区块链技术的出现,去中心化的分布式记账完全可以解决这个问题。不仅如此,区块链技术由于可以内嵌激励机制,通过对记账人提供奖励,提高区块链系统的参与度,提升政府与行政对象的互信,改善行政关系。

  当然,“执法机器人”带来的忧虑也是显而易见的。当前依靠人来完成的执法虽然存在这样或那样的问题,但大多数时候正是“人”的因素让执法在刚性和弹性之间保持了某种适度的平衡。而对于执法机器人,这种平衡要求能够完成吗?对于所有的这些,作为整体的社会都需要一个适应的过程,而这一过程最终将决定执法机器人能走多远。

  以上内容精选于《人工智能》杂志第十一期

  本文作者

  何海锋

  北京市天同律师事务所顾问,律师。法学博士、中国科技法学会金融科技法律专委员秘书长、中国法学会证券法学研究会理事、北京市网络法学研究会常务理事、中国散文学会会员、中国金融作协会员;兼任《银行家》杂志主持人、《环球财经》杂志特约编辑、《财富管理》杂志编委、中国社科院金融法律与监管研究基地特约研究员、中国政法大学民商经济法学院和中央财经大学金融学院校外导师;专业方向为金融法、科技法、立法法。

  欲阅读完整文章,可通过以下方式购买《人工智能》杂志!

  订阅2019年《人工智能》杂志6期共计360元

  银行转账:北京赛迪出版传媒有限公司

  开户行及账号:中国建设银行股份有限公司北京紫竹桥支行11050170560000000152

  银行转账,请备注:人工智能

  接收详细信息请发到:aiview@ccidmedia.com;或是添加客服微信:13601092749

收藏