中央政法委机关报法制日报社主办

您所在的位置:首页  > 文学副刊

“许多法律人高估了人工智能”

2020-05-14 09:24:00 来源:法制日报·法治周末


原题:“许多法律人高估了人工智能”

专访荷兰格罗宁根大学法学院教授亨利·帕肯

 

机器学习可以预测案件结果,却不适合决策法律案件,正如锤头可以用来造房子,却无法用来制备咖啡一样

 

视觉中国

 

郑珩

目前,法律人工智能界论著引用率最高的学者要数亨利·帕肯教授。他现任荷兰格罗宁根大学法学院教授、荷兰乌得勒支大学信息与计算机科学系高级讲师,曾任法律知识系统会议(JURIX)主席,是论证计算模型(COMMA)会议指导委员会成员以及《人工智能》(Artificial Intelligence)杂志编委。

帕肯教授于1985年和1988年分别在格罗宁根大学获得法学硕士学位和哲学硕士学位,1993年在阿姆斯特丹自由大学获得哲学博士学位,代表作有《建模法律论证的逻辑工具》,主要研究领域包括:计算论证、非单调逻辑、人工智能与法、论证理论、计算机科学等。

前不久,笔者对帕肯教授进行了专访。

应用于警务领域的ASPIC+框架


郑珩(以下简称郑):能请您简单介绍一下您设计的ASPIC+框架(ASPIC+主要用于论证结构化,其讨论了论证的可接受性和可废止性。在法律人工智能领域有着十分重要的应用)吗?

亨利·帕肯(以下简称帕肯):1995年,董番明(P. Dung)在其发表的一篇有影响力的论文中提出论证框架理论,用于分析论证及论证中存在的攻击关系。在此基础上,他还提出了一套非常有意思的论证评价理论。当然,在实际运用中,这些还远远不够。

我们需要说明论证是什么、论证具有哪些结构,比如论证的前提、结论以及中间推理步骤等。ASPIC+框架所解决的正是这些问题。我们利用ASPIC+框架去定义论证结构,讨论论证是如何受到攻击的。这两个问题在董番明的研究中并没有得到解决。

ASPIC+并不是非常新颖的研究,它是欧洲一项研究计划中的一部分,完成于2004年至2007年。我们的研究任务是系统化已有的论证结构,推动其进一步发展。

我认为,ASPIC+框架的成功之处在于,它是对传统研究的延续,而且取众人之长。

 

郑:ASPIC+框架在法律领域有些什么样的应用?

帕肯:我指导过的博士生、现任教于乌特勒支大学的贝克斯(F. Bex)教授将ASPIC+框架应用于警务领域,开发了案件申报系统。警方希望可以在市民报案后,自动化整个案件处理流程。通过市民在线报案,计算机能够自动识别是否有足够理由认为犯罪案件已经发生。这其中涉及了语义理解问题,系统结构使用的正是ASPIC+框架的简化版本。

该框架还被应用于互联网领域产生的诈骗问题,比如,网民在网上购物付款后没有收到货物等。

除此之外,ASPIC+框架还有一些理论上的应用。我与本奇卡朋(T. Bench-Capon)、阿特金森(K. Atkinson)等学者将海波(HYPO)式的案例推理模型重构为论证型式。我下一步的研究计划是,利用ASPIC+框架下的案例推理模型解释法律大数据应用。这些都是围绕ASPIC+所开展的理论研究。

机器学习不适合决策法律案件

郑:机器学习是当下人工智能领域的一个热门话题。就机器学习在法律领域的应用前景而言,您认为实现人工智能与法的未来,主要在于机器学习技术吗?

帕肯:这比较困难。机器学习固然有多元的应用场景,比如处理法律文件、类案识别。在文件繁多且种类复杂的情况下,律师可以应用机器学习技术,检索与当前案件相关联或者相对重要的文件。

在美国,相关电子检索技术已经商用化了。可以预见,未来律所将会更多地将此类技术应用于自动文本摘要、自动文本信息提取等方面。在学术界,过去那些对实证研究感兴趣的学者往往利用传统的统计学方法,现在更多的研究者选择了使用机器学习等自动化统计学技术。这一趋势在美国尤为明显。

鉴于目前机器学习技术在法学中的应用情形,不少人对机器学习抱有一种天真的想法,认为它将会为我们带来机器人法官。我认为这是一种误解。

实际上,结果预测和作出判决是两码事。法官所做的并不是预测结果,而是凭借自身的法律知识、案件事实,以及双方诉求对案件作出决策。机器学习可以预测案件结果,却不适合决策法律案件,正如锤头可以用来造房子,却无法用来制备咖啡一样。

我认为,如果要对案件进行决策,可能需要用到机器学习以外的的方法。

郑:您认为机器能代替人类做出法律决策吗?

亨利:答案是肯定的。对于部分案件,机器可以代替人类作出决策。

在荷兰,有关社会福利和纳税申报等问题通常都由电脑来处理。只有当用户申诉时,才会有来自法院等相关部门的人工干预。由于这些应用所涉及的法律条文比较清晰完备,通常不牵涉过多的证据问题,加之多数数据都能从已有的数据库中获取,因此,大部分决策可以由电脑独立作出。

因此,我认为,在相关法律法规比较清晰的简单案件中,如果没有涉及证据问题,且相关事实可以从可靠渠道获得,那么,法律自动决策完全可行。

因此在某些特定场景下,利用传统人工智能技术,如知识建模而非机器学习,所达成的自动法律决策在一定程度上会是可行的。

不过,我并非一线法律工作者,无法判断出法律自动决策究竟能在多少领域中实现。

支持人类而非取代人类的“混合智能”


郑:可以介绍一下您最近参与的荷兰教育部重点资助计划项目“混合智能(hybrid intelligence)”吗?

帕肯:我在该项目中主要关注可解释人工智能这一部分。我们将用基于案例的论证方法去解释法律机器学习应用输出的结果。

正如我之前所说的,案件预测与案件决策之间存在根本的不同。机器学习擅长案件预测,但并不适合案件决策。复杂案件决策可以利用智能决策支持技术来完成。这些支持技术涉及知识系统建模、论证系统建模以及机器学习等各种人工智能技术的组合。因而,我们称其为混合智能(hybrid intelligence)。开发混合智能的目的是设计一套工具支持人类活动。我们认为,人类和机器相互合作比他们各自为战更有优势。

我认为,人工智能与法的未来主要是混合智能。智能工具可以支持人类律师的工作。例如,当律师面对一个复杂案件时,他们首先要做的就是检索数量庞大的资料和判例,诸如法律搜索之类的具体任务可以完全自动,但人工智能是无法取代人类律师的。

不难理解,有些工作很难通过人工智能来实现。混合智能的目标并不是实现通用人工智能,因为混合智能的目标是支持人类,而不是取代人类。

郑:您怎么界定“可解释人工智能”(XAI)呢?

帕肯:这个概念不是人工智能与法领域独有的。它属于通用人工智能领域。目前,可解释人工智能是一个流行概念,美国、澳大利亚、欧洲的许多学者正对其展开研究。。

总体来说,可解释人工智能要解决机器学习等领域中存在的“黑箱”问题,即无法得知相关结果是如何产生的。可解释人工智能试图通过某种方式解释输入的信息是如何得到相关输出结果的。一些可以采用的方式包括:分析相关影响因素、分析和比较与当前问题相似的过往案例等。也有人应用神经网络技术去尝试解决机器学习的“黑箱”问题,使其变得透明可解释。我并不从事机器学习研究,对此我不是非常了解。

不过,在以前的专家系统研究中,可解释性也是非常重要的。“可解释性”这一概念的重新流行很大程度上归功于机器学习的盛行。在欧盟,也有许多人关注以人为核心的人工智能研究(Human-centered AI)。基于此,可解释性问题尤为重要。

郑:您认为“可解释人工智能”(explainable AI)与“负责任的人工智能”(responsible AI)两个概念之间的区别是什么?

帕肯:“负责任的人工智能”的概念更加模糊一些,它是指人工智能应用应该是负责任且合乎道德的。人工智能技术应当对社会有利。当人工智能作出决策时,需要考虑道德和法律后果,就像人类决策所考虑的那样。

因此,当我们倡导人们在设计人工智能系统时需要思考道德准则。这不仅指人类在使用人工智能技术时应该考虑道德后果,也强调人工智能系统本身的自动决策应该合乎道德。

机器学习在法律领域应用增加

郑:在人工智能与法这一交叉研究领域,知识背景影响学者做研究的方式。您如何看待人工智能研究者与法学学者之间的差异,他们如何才能更好地合作?

帕肯:这是一个非常重要的议题。人工智能与法学相距甚远。在荷兰,许多法科学生通常不具备好的数学基础,同样,计算机背景的学生也很少对法律产生兴趣。因此,能同时在两个领域获得共鸣的学者少之又少。当然,也有例外,比如,我、贝克斯教授、阿什利教授等。

但是,在做好有关人工智能与法研究之前,这恐怕是需要解决的首要难题。我认为这也是为什么许多法律人高估了人工智能能力的一个原因。不少法律人并不理解机器学习为何能生成相应的结果,主要是因为他们并不具备足够的统计学知识。同样,那些担心人工智能会取代律师的人,也极为可能高估了人工智能的本事。

 

郑:请您谈谈人工智能与法这一领域未来的发展趋势。

帕肯:这是一个非常宏大的问题。当前人工智能学界的研究趋势是大数据和机器学习。目前,机器学习在法庭中的应用并不多见,但在法律领域的应用正在不断增加,比如,预测案件结果、检索案例等。

在美国,法官利用机器学习技术预测犯罪嫌疑人再犯的概率,据此决定适当的保释金额。在荷兰,机器学习被应用于一些政府部门的相关应用中。比如,荷兰政府建立了一个大型的储存民众信息的数据库,利用已开发的应用,政府可以分析出可能欺诈社会福利的人群,并对这一群体展开调查。政府还可以利用人工智能技术分析民众的债务状况,从而精准定位需要财务帮助的人群。可以想见,人工智能与法相关技术在政府部门内的应用将会越来越广泛。

(作者系荷兰格罗宁根大学博士研究生)


责编:王硕

联系我们 | 诚聘英才 | 广告征订 | 本站公告 | 法律声明 | 报纸订阅

版权所有 Copyrights © 2014-2019 www.legalweekly.cn ALL RIGHTS Reserved 《法治周末》

京ICP备10019071号-1 京报出证字第0143号

京公网安备 11010502038778号