法经济学视角下算法解释请求权的制度构建

  • 格式:pdf
  • 大小:1.18 MB
  • 文档页数:5

2018年第4期(总第133期)黑龙江省政法管理干部学院学报JournalofHeilongjiangAdministrativeCadreCollegeofPoliticsAndLawNo􀆰4 2018(SumNo􀆰133)

法经济学视角下算法解释请求权的制度构建

贾章范(西南政法大学民商法学院ꎬ重庆401120)

摘要:算法解释请求权是应对人工智能时代自动化决策风险的新兴权利ꎬ能够有效解决现有法律制度性供给不足的难

题ꎮ从法经济学的角度考量ꎬ它不仅能以最小成本实现社会整体效益的最大化ꎬ也为博弈双方提供了平等对抗的制度武器ꎬ

亦是将技术发展而溢出的负外部性进行内部消化的有效途径ꎮ算法解释请求权不应囿于“现象描述”的误区ꎬ权利构造、适用

范围、行使程序等内容应考量资源的有效整合ꎬ在相对人救济和鼓励创新之间寻求平衡ꎮ

关键词:人工智能ꎻ法经济学ꎻ自动化决策ꎻ算法解释请求权

中图分类号:D913 文献标志码:A 文章编号:1008-7966(2018)04-0074-05

收稿日期:2018-04-09

作者简介:贾章范(1994-)ꎬ男ꎬ河南南阳人ꎬ2016级民商法学专业硕士研究生ꎬ从事民商法学与人工智能法学研究ꎮ 一、问题的提出

从科大讯飞研发的讯飞智医助手高分通过2017临床执

业医师综合笔试评测[1]到智能机器人小冰出版第一部原创

诗集«阳光失去了玻璃窗»[2]ꎬ再到世界上首个被确认享有

公民权的机器人索菲亚开通新浪微博[3]ꎬ融合了深度学习和

大数据分析的人工智能以迅猛发展的势头反复刷新着人们

的认知观念ꎬ同时也以“经济发展的新引擎”和“社会建设的

新机遇”的战略定位出现在党中央、国务院的决策部署中ꎬ更

成为世界各国抢占新一轮技术制高点的重要机遇ꎮ

小到自动驾驶汽车的路线规划、商业广告的自动化推

送ꎬ大到个人贷款的自动审批、智能机器人视频面试、劳动合

同的签订ꎬ甚至智能量刑系统和自动化判决的生成[4]ꎬ人工

智能的全方位应用为人们的日常生活提供了诸多便利ꎬ但自

动化决策背后隐藏着算法的不可知性和难以理解性、超级算

法带来的风险不确定性[5]和传统法律体系制度性供给不足

的问题在人工智能时代尤为明显ꎮ历史数据的不完整、自身

系统的不完善、算法设计者自身目的等诸多因素均有可能导

致自动化决策的错误ꎬ但自动化决策相对人容易因专业知识

的缺乏、信息不对称、维权成本过高、缺乏救济渠道等原因而

陷入求助无门的困境ꎮ谷歌的图像识别软件和Flickr的自

动标记系统曾错误地将黑人标记为“大猩猩”和“猿猴”[6]、

魏则西事件将百度的“竞价排名”和“搜索推广算法”推上风

口浪尖[7]、新浪微博负责人于2018年1月被国家互联网信

息办公室约谈[8]ꎬ这些事件都反映出算法背后的人为偏私性

以及自动化决策算法对相对人带来的重要影响ꎮ但自动化

决策相对人是否有权知晓决策作出的原因和过程?如果决策确属错误或具有歧视色彩ꎬ是否应当对相对人进行事后救

济?救济的条件、方式和程序又该如何进行制度性安排?

诚然ꎬ随着人工智能时代的来临ꎬ自动化决策导致的社

会风险已经引起了诸多学者的深切关注ꎬ但自动化决策相对

人寻求救济的请求权基础尚待明晰ꎬ具体的制度构建尚待详

细论证ꎮ笔者以现有法律资源在自动化决策场景下存在的

制度性供给不足之难题为切入点ꎬ从法经济学角度对算法解

释请求权进行正当性证成ꎬ并从权利构造、适用范围、行使程

序等方面勾勒出算法解释请求权的基本内容ꎬ以期在矫正信

息极端不对称的基础上为对抗双方提供平等协商的机会ꎬ使

得因技术瑕疵溢出的负外部性得以内部消化ꎬ从而达到救济

相对人和实现社会效益最大化之目的ꎮ

二、自动化决策场景下现有法律资源的

制度性供给不足

算法解释的核心目的在于使相对人知晓自动化决策的

产生过程ꎬ以便相对人在确有算法歧视或结果错误时寻求救

济ꎮ在现有法律资源的框架内ꎬ自动化决策内含在用户与网

络服务提供者的服务合同之中ꎬ亦会因商事领域的应用而与

消费者的知情权紧密相关ꎬ还可能会因自动化决策的结果错

误而纳入侵权责任法的范畴ꎮ然而ꎬ自动化决策场景的特殊

性使得现有法律资源在结果处理上捉襟见肘ꎬ违约行为、侵

权行为和消费者知情权等制度无法完全契合自动化决策的

应用场景ꎬ传统法律制度难以为自动化决策相对人提供

救济ꎮ(一)违约责任难以救济自动化决策的相对人

违约责任是当事人违反合同义务的后果[9]ꎮ采用违约

􀅰47􀅰责任的方式对自动化决策的相对人进行救济ꎬ相对人不仅需

要证明对方负有正确决策之义务ꎬ而且需要证明对方违反了

该义务并因此致使自身权益受损ꎮ自动化决策的使用人多

为处于垄断地位的互联网巨头ꎬ经常凭借自身拥有的社会资

源和优势地位ꎬ通过格式条款的方式将自动化决策错误的风

险转移至相对人ꎮ如百度公司在«百度用户协议»第四节第

八款规定:百度提供的各种挖掘推送服务中(包括百度新首

页的导航网址推送)ꎬ推送给用户曾经访问过的网站或资源

之链接是基于机器算法自动推出ꎬ百度不对其内容的有效

性、安全性、合法性等做任何担保①ꎮ换言之ꎬ自动化决策相

对人负有信息真实性和安全性的审查义务ꎬ百度并不承担自

动化决策正确的义务ꎬ更遑论负担因自动化决策错误而产生

的民事责任ꎮ

在自动化决策的背景下ꎬ«合同法»第39条②和40条③

对滥用格式条款的规制可能难有用武之地ꎮ«合同法»未将

保证自动化决策的正确性规定为网络服务提供者的义务ꎬ自

动化决策的识别义务可以由用户承担ꎬ难以认定网络服务提

供者存在“免除其责任、加重对方责任、排除对方主要权利”

的情形ꎮ自动化决策更多地作为网络服务提供者的经营手

段ꎬ不宜将所有的信息识别义务都归于网络服务提供者ꎬ这

从信息的复杂性、当事人注意义务的分配、网络服务提供者

的审查能力等角度而言ꎬ都是不可能实现的ꎮ另外ꎬ即使存

在导致格式条款无效的三种情形ꎬ自动化决策相对人若继续

使用网络服务提供者的应用程序ꎬ可能会因其履行行为而使

合同条款发生“实质性变更”而缓和“镜像规则”[10]ꎬ导致缔

结事实合同ꎮ更为重要的是ꎬ违约责任是以公权力为手段保

障合同继续履行或填补受害人的预期利益ꎬ在自动化决策错

误的情形下ꎬ合同继续履行会丧失应有的意义ꎬ当事人的预

期利益也会因自动化决策的错误而难以确定ꎮ更何况ꎬ自动

化决策结果的正确性不作为网络服务提供者应当承担的义

务ꎬ在无义务的前提下直接排除了民事责任的承担ꎬ使得自

动化决策的相对人陷入困境而难获救济ꎮ

①百度:«百度用户协议»ꎬhttps://passport.baidu.com/static/passpc-account/html/protocal.html

②«合同法»第39条:采用格式条款订立合同的ꎬ提供格式条款的一方应当遵循公平原则确定当事人之间的权利和义务ꎬ

并采取合理的方式提请对方注意免除或者限制其责任的条款ꎬ按照对方的要求ꎬ对该条款予以说明ꎮ格式条款是当事人为了

重复使用而预先拟定ꎬ并在订立合同时未与对方协商的条款ꎮ③«合同法»第40条:格式条款具有本法第52条和第53条规定情形的ꎬ或者提供格式条款一方免除其责任、加重对方责

任、排除对方主要权利的ꎬ该条款无效ꎮ(二)自动化决策错误不满足侵权责任的构成要件

侵权责任成立的重点在于行为人就其实施的侵权行为

对他人承担侵权责任应当具备哪些基本要素[11]ꎮ损害赔偿

请求权的成立须具备法定要件ꎬ通常应由被害人就加害人的

过失负举证责任ꎬ常须借助诉讼ꎬ耗费时日及各种成本ꎬ加害

人亦须有一定的资力ꎬ始具实益[12]ꎮ自动化决策错误导致

受害人权利损害不属于«侵权责任法»的特殊侵权类型ꎬ应当

适用于一般过错责任ꎬ须由受害人证明加害人具有过错、自

身权利遭受损失、自身损失与加害人行为之间具有因果

关系ꎮ

但自动化决策算法是否应纳入“技术中立”的范畴ꎬ又或

通过“商业秘密”的方式对抗受害人的诉讼请求?在极端信息不对称的情形下ꎬ受害人根本难以凭借自身能力证明自动

化决策算法存在错误或采集的数据不完全ꎬ更何况自动化决

策的损害结果通常以“拒绝”的方式出现ꎬ如不批准贷款、不

续签保险合同等机会成本的沉没ꎬ难以归类为权利人自身的

损害ꎮ由于«侵权责任法»承担着平衡行为人自由与受害人

填补的特殊使命ꎬ故而ꎬ自动化决策导致的损害在难以满足

相关构成要件的基础上ꎬ无法为受害人提供侵权法上的

救济ꎮ(三)消费者知情权无法使算法真正透明化

消费者的知情权脱胎于简单商品经济条件下的诚信告

知义务ꎬ后增添了消费者自我决定的内容ꎬ以期在信息不对

称条件下实现合同实质自由和正义ꎮ但自动化决策算法自

身正变得日益复杂ꎬ融合了自主学习和大数据分析的超级算

法甚至会超出程序设计者的本来目的而产生额外风险ꎬ导致

非专业人士难以读懂艰难晦涩的计算机语言ꎮ即使当事人

具有读懂自动化决策算法的能力ꎬ自动化决策的相对人是否

构成传统意义上的消费者ꎬ而算法提供的自动化决策结果是

否应当定性为商品或服务也不无疑问ꎮ自动化决策算法作

为网络服务提供者新型的生产工具ꎬ无疑对网络服务提供者

具有重要的经济价值ꎬ网络服务提供者能否以商业秘密作为

对抗相对人知情权的理由?在上述疑问无法得到圆满回应

之前ꎬ消费者知情权似乎难以为自动化决策的相对人提供

救济ꎮ

互联网巨头的垄断地位和自动化决策的特殊性常常使

得相对人处于信息不对称和被决定的弱势地位ꎬ再加上对社

会资源的集中化占有凝聚成的“算法权力”ꎬ自动化决策的相

对人容易陷入孤立无援的“算法困境”ꎮ在违约责任、侵权责

任和消费者知情权均无法为自动化决策的受害人提供救济

时ꎬ更应回归自动化决策特殊的时代背景ꎬ为相对人配置算

法解释请求权ꎬ从而打破双方地位不平等和信息不对称的局

面ꎬ在双方的“武器平等”的基础上实现权利均衡ꎮ

三、法经济学视角下算法解释请求权正

当性证成

算法解释请求权是指自动化决策的具体决定对相对人

具有显著影响时ꎬ相对人有权向算法使用人提出异议并对决

策过程和结果进行解释ꎬ在确有错误时进行纠正的权利ꎮ以

自动化决策为代表的人工智能时代即将来临ꎬ算法解释请求

权虽然能为自动化决策相对人提供矫正信息不对称的武器ꎬ

但以意思自治为基础的市民社会为何要超越合同约定的范

畴而赋予相对人独特的算法解释请求权?这种权利的来源

和内在价值是否能够通过法经济学的视角进行深层次的正

当性证成?

􀅰57􀅰