国外社科 理论研究

美国算法失能侵权责任立法浅析

袁文坤

2023年03月03日 03:18

中国社会科学网-中国社会科学报

在美国,当前尚未有联邦层面上的、专门调整算法技术相关法律关系,特别是规制算法失能侵权责任的完整法律,对于算法失能侵权民事责任承担与赔偿,要么适用消费者权益保护或一般民事侵权相关法律规范,要么使用规范自动化技术应用所造成侵害的专门法律进行调整。但近年来,对算法失能侵权特别是算法歧视引发的侵权的讨论逐渐浮出水面。相关立法过程和方案也值得关注。

对算法失能侵权责任的讨论

对算法歧视性应用与公众平等权侵害的讨论源于2017年美国计算机协会发布的倡议性文件《关于算法透明和问责的声明》,该声明指出算法应当遵守7项原则,以保证其在透明和可被问责的条件下安全运行,并避免算法自身崩溃或被歧视性地运用。这7项原则要求所有与算法有关的主体应尽到审慎义务,意识到算法中潜在的歧视与危害。应当赋予应用算法分析技术的企业等主体对算法决策提出质疑并获得救济的权力,鼓励使用算法的主体对算法所遵循的程序和具体决策的产生进行解释。但无论算法产生决策的过程是否清晰,使用算法的商事主体均应就算法的一切决策负责。应当规定算法的设计构建者记录人工智能应用的模型、搭载的算法、分析的数据和最终做出的决策,以便在怀疑有损害的情况下对其进行审查;且应当使用严格的方法来验证其模型,并记录方法和结果。

2022年2月,部分美国国会议员围绕算法失能侵权提出了制定《算法责任法案》的构想,列举式地界定了有较高算法歧视侵权风险的算法类型,并建议通过立法使自动化决策系统具有更高的透明度,建立更为严格的问责制度,依法对人工智能使用的关键算法和人工智能应用产生的公开信息进行评估,从而对算法技术的歧视性应用进行监管与问责。

法律草案做出积极尝试

2022年6月,美国公布了《数据隐私和保护法》草案(以下简称“草案”)。草案对“算法”的定义是来源于机器学习与人工智能技术的、以代替人工或为人提供帮助为目的的、依据数据处理结果作出决策的计算处理程式。草案规范此类处理技术的应用。我们从中可以发现,美国对于防止算法失能侵害,特别是对于防止利用人工智能分析数据的商事主体滥用算法、歧视性利用算法做出商业决策,为防止数据收集主体侵害人们的平等权益做出了努力。这种努力主要体现在三个方面。

一是算法技术设计者与应用者对算法歧视侵权承担过错推定责任。草案对算法侵权相关主体的责任分配作出了有别于一般侵权的规范。受草案调整的主体包括:持有、分析、应用数据的企业及其他民商事主体。其中,运用算法技术的大数据持有者需要承担对自己所使用算法的影响进行综合评估的义务。影响评估包含大数据持有人采取的减轻对个人的危害的措施,以及为减少算法在处理特定数据时出现歧视现象所做出的努力,这些特定数据可能涉及非完全民事行为能力人等不能完全掌控其个人信息者与易受歧视的少数人群的个人数据,以及与医疗、信贷等有关的数据。算法的设计开发者也有责任对算法技术的设计进行评估。由于算法技术存在运行状态下影响因素多且复杂、难以逆向追溯等问题,在发生算法失能侵权时受到歧视的被侵权人往往难以指出运用算法技术的大数据持有者的过错及其与侵害结果间的因果关系,相较之下要求算法技术开发者和应用者承担定期评估与说明义务更为公平。因而,当消费者认为算法歧视是其民事权利受到侵害的原因时,算法技术的应用者有必要承担过错推定责任,若无法证明其所使用的算法不会造成不利影响或者已经采取了必要的措施防止歧视发生,则要承担相应的侵权责任。

二是第三方技术服务提供者对算法侵权承担过错责任。草案的规范在一定程度上揭开了算法技术的黑箱,并确认了在何种情况下包括人工智能平台搭建方在内的网络业务提供商和第三方技术服务提供者将被认定为存在过错。其中包括,在未获得“与提供数据的个人直接相关联的大数据持有者的明确同意”的前提下,对其所提供的数据进行不当截流、分析、使用或传播,以及在合同到期后或在合同约定的数据使用目的完成后未将数据删除或去识别化。有过错的第三方应当对数据的泄露或不合理应用,及其所造成的人身财产损害等算法失能侵权结果承担过错责任。

三是被侵权人可以通过具有公益性质的侵权救济渠道获得赔偿或补偿。未经授权应用算法收集处理个人数据、歧视与滥用算法技术都可能导致权利侵害。这种现象不仅广泛存在,而且可能影响消费者以及其他群体的合法权利。为了让消费者能够得到及时有效的经济赔偿或补偿,草案尝试构建具有公益性质的侵权救济基金渠道。草案中建立了与道路交通事故侵权赔偿类似的专门救济基金制度,并规定美国联邦贸易委员会和司法机构应当将违法主体缴纳的罚金和其他救济性赔偿存入该救济基金中,从而向受到侵害的个人提供经济补偿或其他货币形式的救济。另外,为了避免发生权利救济混乱,当有人认为自己的合法民事权益,特别是草案中规定的属于消费者的民事权利,因为算法的设计者和应用者或第三方主体的过错受到侵害时,除了可以向具有管辖权的联邦法院提起民事诉讼,要求侵权人承担赔偿责任外,还可以向司法机关和联邦贸易委员会提出书面请求,由所在州检察院的下属机构与联邦贸易委员会对责任主体进行追责。

有待推敲之处

尽管草案包含上述积极因素,但其中也有值得推敲的部分。

首先,草案尝试对算法侵权责任主体作出规定,但由于缺乏有效的技术回溯手段,实质上仍未能彻底解决算法的运作处于“黑箱”之中的问题:在算法失能侵权个案中,主体是否存在过错行为以及行为与侵害结果间是否存在因果关系,在当前条件下仍然不能被真正有效地梳理清楚。

其次,对广范围多类型的算法失能侵权规范仍不完善。美国与人工智能领域相关的法律规范所保护的个人民事权益主要集中在算法歧视与滥用造成的权益侵害责任上。而对于算法本身的缺陷造成的其他权利侵害,仅在投资、医疗、交通等领域内才有一部分专门立法,调整算法侵害个人人身与财产权利时的责任承担问题。

再次,对各主体的义务规范更多的是针对其应当承担的第一性义务,对于违反应尽义务造成侵害后的责任分配与承担缺乏系统性的规定。草案对算法的开发设计方、平台搭建方、分析应用方等主体作出了要承担相应责任的规定,但没有充分明确违反法案规定,发生算法失能造成民事侵权后,以上各主体间的责任分配。

最后,具有公共利益性的权利救济渠道是一把“双刃剑”,它也可能会影响人们利用其他手段自行寻求权利救济。按照草案的规定,若被侵权的消费者“自行向受调整主体发送要求其承担货币付款形式的民事责任的书面请求”,则会被视为是非法的、恶意的,这在一定程度上限制了被侵权人的即时赔偿请求权。


]]>

2023年03月03日 11:19
2875
职业吸引力下降 欧洲多国面临教师短缺问题