（编译：上海海事法院翻译员团队成员 鲍海跃、陈廖圣杰）

本文刊登于中国审判2019年第23期

 

编者语：人工智能、分布式账本（区块链）、互联网争端解决等领域不仅在我国被视为热点问题，在英国法院也是前沿问题，本文在这些领域均有所阐述，并结合英国司法实践提出了很多现实问题，发人深省。笔者以英国最高法院副院长大法官霍奇勋爵（Lord Hodge）“法律与技术变革”讲话为基础，对其进行编译，分享英国法院对上述问题的实践、分析和认识。本文着重讨论三个主题：第一，技术变革对法律和法律实践的影响；第二，在民事纠纷中通过技术获得公正；第三，涉及人工智能和大数据法律监管的更广泛问题。

 

【导师点评】（上海海事大学 副教授 郑睿 ）

技术变革对法律的影响是近两年全世界都在关注的问题。“区块链”、“比特币”、“加密资产”、“智能合同”等一系列新概念让法学界应接不暇。新近就任英国最高法院副院长的霍奇勋爵2019年4月份在爱丁堡的演讲“法律与技术变革”就代表了英国法学家在这一领域最新的思考。霍奇勋爵认为，技术变革给法律适用带来便利的同时，也带来了挑战。现行实体法和程序法都要作出修改以适应和利用技术发展，而且，此种变革不能仅靠法院完成，这需要跨学科和国际合作。霍奇勋爵还指出，技术变革会带来一系列监管问题，立法者和司法者都应当谨慎对待，不能盲目采信技术。上海海事法院法官助理鲍海跃领衔编译了霍奇勋爵的演讲，译文准确流畅地反映了霍奇勋爵讲稿的核心内容，特此推荐对“法律和技术”这一课题有兴趣的同仁阅读。

引言

1996年，在YouTube、Facebook、维基百科、谷歌都未成立时，英格兰及威尔士的首席大法官信息技术顾问理查德教授便预测，到2016年，许多有关法律业务及法律程序的假设将在先进技术与互联网的到来后受到挑战并发生改变。他预测，客户和律师之间将更多地使用电子邮件，并依赖互联网进行在线研究——这些预测在当时被贴上了“令人发指，甚至带有煽动性”的标签。但事实证明，理查德教授很有先见之明。

“法律与技术变革”一直是霍奇勋爵十分关注的课题。他认为有四项技术的发展创造了新的机会和挑战：一、IT系统的计算和数据处理能力的巨大提高；二、空前规模的数据供应；三、与数据存储有关成本的下降；四、市场上越来越复杂的软件服务。

人工智能是一项被描述为“不同于曾经必须管控的其他技术或现象”的特殊技术发展。它有各种各样的定义，但重点在于其执行任务的能力是否被人类智慧所需要，且人工智能可以超越人类智慧。机器能够自我学习，这涉及到不需要人工或仅需少量人工进行干预的一种通过经验来自动优化的算法设计。机器自我学习可以用于在日益多样化的数据源中发现大量数据（通常称为“大数据分析”）。

这也带来了一些严重问题，比如可能侵犯隐私或通过使用针对性的广告来操纵大众选择。许多人对大数据分析和人工智能的有些用途还留有疑问。一些人担心，在获取医疗保险或信贷方面，大数据可能被滥用。但这也有好的方面，新技术能被用于疾病诊断、外语翻译和无人驾驶汽车的开发。联合国组织“全球脉搏”在利用大数据促进发展和人道主义行动方面也提出了一些有趣的倡议。在金融领域，新技术可以用来形成数字识别记录，使目前被排除在外的人有机会进入金融系统。它可以协助中央银行作出经济预测，也可以让受管制的机构用来协助遵守规定，以及侦察欺诈、洗钱和恐怖主义融资。

一、技术变革对法律和法律实践的影响

技术发展过快会对法律和监管带来挑战。科技智库麦肯锡全球研究所得出结论称，人工智能和大数据不仅对社会转型做出了贡献，而且与工业革命相比，这场革命“正在以10倍的速度、300倍的规模、大约3000倍的影响力发生”。那么，立法者、法官和律师在这种商业环境中又该如何应用和调整法律呢？一个成功的商法体系必须促进而不是阻碍诚实的商业活动。提供了高度确定性的法律体系，会降低交易成本，从而鼓励商业活动。那么，当一个法律体系的传统结构无法适应技术所提供的新型交易形式时，它如何能够促成确定性并推动商业的发展呢?

（一）合同法

   “智能合同”是指无需人工干预就能部分或全部执行或强制执行的合同。简单来说，这与计算机的一条指令有关，即如果X发生，那么计算机将采取行动使Y成为结果。这个过程中的“如果-那么”指令就类似于自动售货机的操作。如果你想买零食，你把钱放进机器里，选择产品，那么机器就会把钱取走，然后把你的零食送到机器里。以这种简单的形式，在普通法这种法律体系中（包括苏格兰的法律）确认合同的存在应该没有问题。它能客观地评估缔约双方的意图，使得双方在缔约合同时都意识到他们采用这种合同的性质。

但是，因合同中约定的虚假陈述或欺诈等行为致使合同可撤销时，法律就需要提供适当的补救措施。当买家和卖家之间的协议条款被写入存在于区块链中的代码行时，智能合同就会自动执行。当符合编码条件时，产品就会被放出或完成付款。任何人，包括法院，都无法阻止或撤回智能合同的履行。但是，普通法和大陆法管辖范围内有关不当得利的法律均可作为补救办法，迫使当事人返还作为交易标的的财产或金钱等不当得利。

此外，如果广泛使用人工智能来优化缔约双方在突发事件发生时的安排，就必须制定合同法来解决这一问题。机器做出独立的决定时，法律又将如何将这些决定归因于缔约双方的意图呢?

 

（二）侵权行为/不法行为

法律还必须解决合同法领域之外存在的民事责任问题。AI在金融体系中也有许多用途，比如资产和负债之间的优化平衡、投资组合管理、交易的执行与欺诈的检测等。

在侵权行为法/不法行为中，责任可能是由伤害他人的错误意图或预见到他人将要遭受损失及个人作为（或不作为）与另一方所受损害之间的因果联系而产生的。但如果计算机的决定造成了不利结果，法律将把过错归于谁？法律将如何看待人的行为与这种结果之间的因果关系？谁对机器的决定负责？是否要立法规定AI系统的开发商承担法律责任，就像对待无人驾驶汽车制造商那样？还是应该立法规定选择使用这种设备的人承担责任？或者，如果人工智能系统编写他们自己的算法，让人类承担责任是公平的吗？相反，人工智能系统是否应该像公司一样被授予法人资格？这就需要制定一套法律来决定如何分配赔偿责任。如果使用人工智能的计算机被赋予独立法人资格，它是否应被要求购买强制性第三方保险呢？如果它没有购买上述保险，谁又应该承担责任呢？

 

（三）所有权

物权法也需要修改。例如，如果数字货币要达到一种目前尚不存在的稳定，并被广泛接受于换取商品、服务或其他用途，就需要确定它们作为财产所有权的性质。如果它们在跨境商业交易中得到广泛使用，就有必要就它们作为财产所有权的性质达成一定程度的国际法律协商一致意见。这些货币按其性质是否应被视为货币，还是应被视为证券加以管制？在另一个技术领域，如果使用人工智能的电脑产生知识产权，谁将拥有该知识产权？将需要制定规则以界定存放在分布式记账上的代币和资产的性质，并确定此类财产何时从一个所有者转移到另一个所有者。这应涉及计算机专家和律师之间的合作，以便最大限度地利用技术。

 

（四）国际合作

英格兰、威尔士、苏格兰或爱尔兰的立法机关和法院仅仅修改法律以适应这些新奇的交易形式，而不把目光投向现有情况之外是远远不够的。如果要使技术进步为国际商务和金融服务作出重大贡献，就迫切需要开展国际合作，以制定商定的国际私法规则和协调一致的规章。许多分布式记账的结构将跨越国界运作，这会造成已签订的合同和存放在分布式记账中的财产在管辖法律方面的不确定性。

在这方面，应寻求扩大全球金融创新网络等监管机构之间的合作，以实现监管的进一步协调。对金融服务有重大利害关系的国家应开展合作，以促进国际私法新规则建立，这些规则可由海牙会议或国际私法统一协会等国际机构颁布。

控制分布式记账的节点将在多个管辖区内运作，还需要就管辖和执行达成协议，才能使法院判决和仲裁裁决在多个管辖区内执行。常设国际商事法院论坛为了执行涉及金钱的商事判决，正努力寻求就管辖和执行规则达成协议的适当机构。制定国际公认的法律和规则来管理能够促进国际货物和服务贸易的金融技术业务。扩大新技术成果的传播范围能使这些业务与提单、银行信用证一样为人所熟悉，使更多人在国际上受益。

唯有谨慎地权衡道德因素、消费者的利益以及隐私和数据完整性，才能降低交易成本、扩大进入金融体系的机会、提高市场效率并加强消费者的选择。这是一项极具挑战性的任务，但对各国社会今后的福祉具有重要影响。

 

（五）法律实践的变化

为了适应不断变化的技术，需要调整的不仅仅只有实体法。许多评论人士指出，法律界本身正处于前所未有的动荡边缘。在传统模式中，由律师精心制作一对一的法律建议，在法庭上进行正式审判，但这种传统模式对许多人来说过于昂贵。甚至那些财力雄厚的公司也不愿在文件审查和尽职调查等任务上花费巨资。

法律部门正在尝试使用人工智能作为回应。例如，在可口可乐法律部，人工智能工具简化了许多合同文件的起草过程，律师用于审查的时间从10个小时减少到大约15分钟。观察人士说，这不仅提高了效率，还促成了更一致的协议，同时使法律团队能够腾出时间来执行更多战略性的任务。JP摩根大通投资了其专有的人工智能平台COIN（合同情报的缩写）以审查商业贷款协议。金融巨头估计，这种自动化进程每年为律师和贷款专员节省了36万小时的工作时间，而这个平台将被扩展到去处理更复杂的事项，包括信用违约互换和托管协议。

律师事务所还采用人工智能来支持甚至取代律师完成核心法律任务。在Pyrrho Investments v MWB Property[2016] EWHC 256 (Ch)一案中，英国法院首次明确赞同使用预测编码软件。该案涉及到旅馆和娱乐业违反董事职责的情况，其中有300多万份文件必须加以审议以确定其相关性和披露的可能性。高等法院基于披露的目的审议了当事方是否可以依赖预测性编码。预测性编码是一种机器学习形式，它将有关文件相关性的数据输入，然后将其应用于更大的文档集。法官认为，没有证据表明预测性编码软件比人工审查导致的披露更加不准确，有证据甚至表明预测性编码软件的审查更为准确。他还指出，预测性编码软件提供的一致性，要比数十个、甚至数百个初级收费者更大。此外，预测编码软件的费用据估计大约为50万英镑，比全面人工检查要花费的几百万英镑便宜许多。

 

（六）法院的技术

技术也在改变法院的运作方式。法院的系统、程序和基础设施方面的技术进步，对于任何真正希望成为解决争端中心的法域来说，都是必要的。为此，英格兰和威尔士的法院正在采取各种举措，包括电子备案、计算机辅助起草文书、文件显示系统、电子出示证据以及对证人进行虚拟审查以保护弱势群体。皇家法院和法庭服务处与司法部合作，正在投资10亿英镑，用于“使司法制度现代化和升级”。改革方案包括50多个不同的项目。

此外，法院的位置分布是在过去确定的，通过电子通讯等现代化手段可以为法院重新选址，使法院地址更加合理化。法院地址的变更可能会引起争议，但技术可以减少法院关闭所造成的不便。技术能够作出的一项贡献是以低得多的成本使人们能够诉诸司法。

 

二、民事纠纷的司法公正

司法公正原则是法治的一个基本组成部分。在最近的UNISON案中，最高法院确认司法公正是宪法的一项基本原则：法院的职责是确保法律得到实施和执行。

在英国，获得司法公正是一个重大议题，其中在法律援助方面即存在不少困难。在民事案件中法律援助的减少导致出现了包括有条件收费安排、在某些情况下出现的事后保险等情况，这给败诉方造成了巨大的费用。诉讼当事人的人数激增，也给当事人和法院都造成了问题。事实上，法律援助本身并不能解决司法公正的问题。律师的无偿服务虽然很有价值，但也不能解决这个问题。

英国的对抗性制度是建立在假设人民被法律代表的基础上的，但该制度需要雇佣熟练的律师才能实现。在这个制度下，熟练的书面法律辩护和有力的口头辩护使法院能够在许多案件中伸张正义，而其所涉及的成本依然超出了大多数个人和小企业的承受范围。

这促使人们努力为较小的案件创建一种新的法庭形式来实现在线纠纷解决。网络法庭被形容为一种“根本性的重大结构变革”，因为“这是首次利用现代IT技术建立一个法院，使价值和复杂性适中的民事纠纷得到公正解决，而不必承担不成比例的法律代理费用”。

也许拟议中的网络法庭的最重要技术是在线分流。在民事诉讼中，网上分流将使法院通过自动提出连续问题，由原告回答决定后来对原告的案件进行调查，以便将复杂的申诉转化为法律索赔。在线分流将减少返回不完整表格的耗时过程，并且可以利用它使法院用户能够直接与法院就简单的索赔进行沟通，以此取代复杂的程序规则书。在线分流是网络法庭的第一阶段。第二阶段是由具有法律资格的办案人员进行案件管理，第三阶段由法官在网上，通过文件、电话、录像或由传统听审作出决定。

如何做到这一点还有待观察。如果第一阶段的分流工作做得足够好，可以为当事人省却很多诉讼费用，因为这种情况下并不需要律师来替他们的案件做准备工作。如果成功实施，网络法庭有可能为根本没有资源以传统方式提起诉讼的个人和小企业提供诉诸司法的机会。

 

三、涉及人工智能和大数据法律监管的更广泛问题

偏差可能以各种微妙的方式渗透到系统中，特别是依赖机器学习的人工智能系统。偏差可能产生于用来训练系统的数据、系统在运行期间处理的数据、或创建它的人或组织中的数据。如果基于不准确或不完整的数据，或者由于算法本身的任何错误，系统可能产生意外的结果，还可能产生一些额外的风险。当然，当数据集不准确地反映社会各个方面时，会出现偏差，当数据集准确地反映社会的不公平方面时，也会出现偏差。

一个特别令人关切的领域是使用人工智能工具来进行“风险评估”，以帮助法官作出判决。这种做法在美国司法系统中越来越普遍。风险评估工具通常根据被告人提供的答案或从犯罪记录中提取的答案，在较高水平上收集数据，并向法官提供一个评估有过犯罪行为的被告人再次犯罪可能性的单一数据。

尽管这项技术的设计初衷是好的，但一位前美国司法部长警告称，它“可能会加剧不正当和不公正的差异，而这种不平等在我们的刑事司法系统和社会中已经司空见惯。”不幸的是，他的担心似乎正在成为现实。美国非营利新闻编辑ProPublica对佛罗里达州布劳沃德县7000多名被捕者的风险评分进行了一项研究，并调查在未来两年内有多少人被指控犯有新的罪行，相关风险评估系统的创建者也使用了同样的基准。他们报告说，事实证明，在预测暴力犯罪方面，分数“非常不可靠”：预测实施暴力犯罪的人中，只有20%的人实际上会这样做。当考虑到一系列的犯罪时，该算法只比掷硬币更准确：61%。此外，研究还发现了明显的种族差异：该系统错误地将黑人列为未来罪犯的比例几乎是白人的两倍。被告人很少有机会对他们的评估提出质疑，而基础数据转换成分数的计算很少被披露。杜伦警方已开始调查是否使用类似的人工智能系统来确定是否应将嫌疑犯拘留。杜伦警局刑事司法主管意识到了美国的问题，他强调，杜伦警局用了相当长的时间来确保使用这些工具的公开、公正并合乎道德。

但是如果风险评估要在英国或爱尔兰实施，那么系统的开发者就需要创建更多样、更精确的数据集。英国应该缓慢地允许使用这种风险评估，除非控方和辩方都能直接或间接了解所有数据。

英国国会和政府意识到了人工智能和机器学习中偏差的危险。2018年4月，英国上议院建议设立一个项目，鼓励建立审计和测试培训数据集的系统，以确保这些数据集能够代表不同的人群，减少偏差。作为回应，政府决定寻求艾伦·图灵研究所的帮助，该研究所设立了一个特殊的挑战，使算法系统公平、透明并合乎道德。报告建议，应打开“黑匣子”系统，以提高对算法决策的理解和解释，在自动化系统中保留性别和种族等受保护的特征，并在个人数据分析中平衡创新与隐私。如果在英国或爱尔兰进一步进行风险评估，就必须执行这些建议。

 

结语

透过判例法发展普通法为很多科技发展建立适当的法律制度并不可行。法院本身也不能采取必要步骤来达到公正司法的可能性，司法部门没有这样做的宪法权限。制定这些法律是法官的长期公认任务，改革将需要跨学科的决策和协商。

英格兰和威尔士的首席大法官建议成立一个咨询组织，这是一项值得欢迎的新措施，可以提醒司法和法院制度AI带来的挑战。但是，各国的政府和立法机构必须在专家的协助下促进必要的立法。为了最有效地做到这一点，必须进行跨国对话和学习，以创新和改革法律，适应这些技术发展。