当前位置:首页 > 新闻 > 正文

《人工智能创新发展道德伦理宣言》的解读和思考

发布时间: 2019-08-09 15:22   作者: 栾群 王夙 张浩 徐丹   来源: 赛迪智库

  2018年7月11日,“2018机器人与人工智能大会(雷克大会)”在天津发布了《人工智能创新发展道德伦理宣言》,引起了社会广泛关注。人工智能作为产业新风口受到资本热捧,但也发生了很多值得警醒的事件。人工智能反面角色不仅出现在影视作品中,现实中如美国Uber自动驾驶汽车全球首例撞人致死事件、《联合国特定常规武器公约》会议公布精准杀人机器人等,都引发公众担忧心理和伦理思考。

  一、《宣言》的主要内容和亮点

  序言+六章内容。结合行业发展和问题焦点,《人工智能创新发展道德伦理宣言》设计了序言和六章内容,其中主干部分五章,从主体和应用两个方面提出人工智能创新发展道德伦理要求。前三章从主体角度,对“人工智能系统”、“具体接触人员”及其“相互关系”作出规定。《宣言》认为人工智能系统应当摒弃带有偏见的数据和算法,尊重既有的人格权利、技术风险评估机制,以确保人工智能系统符合与其自主意识程度相匹配的人文价值;研发者自身应当具备正确的伦理道德意识,并将这种意识贯彻于研发全过程;使用者应当遵循产品的既有使用准则,除非出于改善产品本身性能的目的外,不得擅自“改装”;人工智能的发展应当始终以造福人类为宗旨。当人工智能的设定初衷与人类整体利益或个人合法利益相悖时,人工智能应当无条件停止或暂停工作进程,以保证人类整体利益的优先性。第四、五章则从应用和产业角度,提出一方面要注意人工智能推广时机和应用范围,认为人工智能的应用和推广应当审慎而科学;可以作为决策辅助工具但不应成为决策的主体;应克制在进攻端武器的运用。另一方面应探索产、学、研、用、政、金合作机制,制定人工智能产业发展标准,打造共性技术支撑平台,构建人工智能产业生态,健全人工智能法律法规体系,以保障人工智能产业高效有序发展的方向。第六章附则规定,对宣言不得歪曲解释和修改。

  强调技术创新者和使用者的人文情怀。算法和程序是否有价值观一直存在争议,《宣言》认为技术不应是冷冰冰的。至少可以明确,算法背后的人是一定有价值观的。与现有的国外人工智能伦理规范相比,它们都较少提及人工智能背后的人(或产品责任人或程序员)。这可能是因为主导起草规范的人,往往也是技术人员。《宣言》认为,人工智能伦理问题是社会问题在技术上的表现,第三章“人工智能具体接触人员的道德伦理要求”提出了对研发者和使用者的基本道德要求。同时也明确指出除前两者外,其他居于主导地位、可以直接操纵或影响人工智能系统和技术,使之按照预设产生某种具体功效的人员也应当遵守。

  二、国际社会主张加强人工智能伦理规范

  人工智能的发展在深度与广度上都难以预测,无论是从早期的阿西莫夫在文学作品中提出的“机器人三原则”,还是近期的《阿西洛马人工智能23条原则》,抑或《一般数据保护条例》(GDPR)的算法审查,加强人工智能伦理性审查成为一种共识。

  早期的规则性原则。1959年美国造出世界上第一台工业机器人,宣告机器人从科幻变为现实。但是,阿西莫夫早在1942年就提出“机器人学三大原则(定律)”。第一定律:机器人不得伤害人类个体,或者目睹人类个体将遭受危险而袖手不管;第二定律:机器人必须服从人给予它的命令,当该命令与第一定律冲突时例外;第三定律:机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。我们可以将其归纳为三原则:机器人不得伤害人类、应当服从人类、还要保护自己。但可以看出,早期总结的机器人原则是一种规则性的表述,且出于作者文学创作的需要,先后次序不能更改。

  以上内容精选于《人工智能》杂志第十一期

  本文作者

  栾 群

  中国电子信息产业发展研究院(赛迪研究院)政策法规所所长,工业和信息化法律服务中心主任,毕业于中国政法大学民商经济法学院,法学博士。主要从事行业法律、工业经济、产业布局、产业政策等方面的研究。

  王 夙

  毕业于中国人民大学,获民商法学专业博士学位,现供职于中国电子信息产业发展研究院。研究方向主要包括民商事法律、产业政策、人工智能法律伦理、智能网联汽车法律政策等领域。

  张 浩

  北京邮电大学法学硕士,赛迪智库政策法规研究所助理研究员。目前主要从事人工智能、自动驾驶、数据治理等领域的战略咨询和政策法规研究工作。

  徐 丹

  2015年毕业于中国政法大学宪法与行政法学,博士。现就职于中国电子信息产业发展研究院政策法规研究所,助理研究员。主要从事行政法学、循环经济法学、工业与互联网产业法学体系等方面的研究。

  欲阅读完整文章,可通过以下方式购买《人工智能》杂志!

  订阅2019年《人工智能》杂志6期共计360元

  银行转账:北京赛迪出版传媒有限公司

  开户行及账号:中国建设银行股份有限公司北京紫竹桥支行11050170560000000152

  银行转账,请备注:人工智能

  接收详细信息请发到:aiview@ccidmedia.com;或是添加客服微信:13601092749

收藏