中央政法委机关报法制日报社主办

您所在的位置:首页  > 文学副刊

深度合成技术的法律规制

2020-07-23 07:15:00 来源:法制日报·法治周末

以人为本是法律的基本原则和价值立场,也充分体现在民法典人格权编之中,尤其是体现在对人格权的法定性和开放性的平衡

 

张吉豫

深度合成(deep synthesis)通常指一类使用了机器学习、可以合成具有较高自然度和真实感的图像及音视频内容的人工智能技术,包括人脸更换、面部表情修改、语音合成等。这类技术具有非常广泛的应用领域和应用前景,可以用于电影后期制作、娱乐和教育形式创新,或为人们在线购买服装、彩妆产品提供更好的数字试装体验,提高人们在赛博空间进行活动交互的真实感和参与感,等等。

今年许多院校由于新冠疫情的影响举行了“云”毕业典礼。如果深度合成技术已经有很好的发展应用,今年的毕业典礼可能带给同学们更深刻的参与感和仪式感。但不当应用此类技术带来的负面影响也得到了社会的高度关注。

2017年,一位用户名为“deepfakes”的用户在美国社交新闻网站Reddit上发布了一系列经过篡改的色情视频,将某明星面孔替换到其中。此后许多代码、工具以及涉及娱乐明星或政治人物的合成视频大量涌现,引起了社会上的担忧,“深度伪造”(deep fake)也成为了此类使用人工智能技术进行音视频合成的代名词。可能的风险包括一些伪造视频可能侵害人格权益或企业商誉,也可能用于绕过安防及进行金融诈骗,一些涉及政治人物或社会问题的虚假视频的传播还可能引起国家安全和公共安全问题,等等。

深度合成技术,如同很多前沿科学技术一样,有满足人们对美好生活需要的应用前景,也可能带来新的风险。我们需要在技术发展应用的过程中,掌握如何保障这些技术在社会中更安全地发展运用,以及如何更有效地应对风险问题。我国和其他很多国家都高度重视深度合成的问题,开展研究并出台了相关法律政策。本文希望以深度合成技术为视角,探讨我国对此类新技术进行法律规制的基本政策和方法、当前法律法规的主要情况,以及引导未来法治进一步发展的基本理念和方向。

“包容审慎”的监管方式

新的科学技术总是与新的风险类型相伴。以习近平总书记为核心的党中央和中国政府高度重视科技的发展,同时也非常重视对科技的伦理治理和法理引导。近年来,我国在应对新技术新业态的规制和监管方面,形成了一个总体的政策,即“包容审慎”监管。这项基本政策在2017年就已正式提出。

2019年通过、今年11日起实施的《优化营商环境条例》第55条中更是专门规定了包容审慎监管原则:“政府及其有关部门应当按照鼓励创新的原则,对新技术、新产业、新业态、新模式等实行包容审慎监管,针对其性质、特点分类制定和实行相应的监管规则和标准,留足发展空间,同时确保质量和安全,不得简单化予以禁止或者不予监管。”

此前,李克强总理在2018年考察市场监管总局并主持座谈会时曾具体解释过:“我国近年来新业态、新技术、新模式方兴未艾,不仅推动了经济发展、增加了就业岗位,更大大方便了群众生活,这很大程度上得益于‘包容审慎’的监管方式。所谓‘包容’,就是对那些未知大于已知的新业态采取包容态度,只要它不触碰安全底线。所谓‘审慎’有两层含义:一是当新业态刚出现还看不准的时候,不要一上来就‘管死’,而要给它一个‘观察期’;二是严守安全底线,对谋财害命、坑蒙拐骗、假冒伪劣、侵犯知识产权等行为,不管是传统业态还是新业态都要采取严厉监管措施,坚决依法打击。”

上述阐释指出了包容审慎监管方式的两个重要方面:一方面,要注重观察,认识到新技术新事物往往有其积极的社会意义,亦有其发展完善的客观规律,应予以一定空间使其能够发展完善,并在发展中在必要之处形成规制方法和措施。对于深度合成这类技术,其合成视频的识别、溯源等技术能力的发展,往往与深度合成技术本身的发展是密切相关、不可分割的。在全球化的时代之中,更需要充分认识到新技术的发展不仅关乎产业和经济的发展、关乎国家的国际竞争力,也关乎国家安全能力的发展建设。

另一方面,要坚守底线,包括公民权利保护的底线、安全的底线等。对于已经形成高度社会共识、凝结在法律之中的重要权益、价值,在执法、司法过程中都要依法进行保护。这既是法律对相关技术研发和使用者的明确要求,也是法律对于在智能时代保护公民权益、促进科技向善的郑重承诺。

智能时代的权利需求

在包容审慎这一基本政策和方法论之下,我国法律中对公民权利的规定,为深度合成技术的运用设置了必要的法律底线。同时,我国也进行了一些专门的规定,用于设置适当的平台责任,以及推动法律与技术的结合。

首先,深度合成技术的运用不能侵害人格权、物权、知识产权等权利,亦不得用于违法的不正当竞争行为。科技应用的根本目标是为了人。技术的应用不得侵犯人的基本权利。智能科技在社会中的新型运用可能扩展原有权利的外延,或催生一些新型的权利。

民法典非常注重回应智能时代的权利需求。第1019条明确规定了不得以丑化、污损,或者利用信息技术手段伪造等方式侵害他人的肖像权。针对声音合成的技术发展,还在1023条中特别规定了对声音的保护。深度合成技术的运用不得侵害这些权利。

同时,面对当代技术发展变化迅速的客观实际,民法典为人格权设置了一定的开放性,在第990条第2款规定“除本编规定的人格权外,自然人享有基于人身自由、人格尊严产生的其他人格利益”,以更灵活地回应和保护科技催生的新型人格利益。

其次,由于伪造视频往往经过网络平台进行传播,网络平台需要遵守民法典侵权责任编等法律的规定,在接到包含平台中用户上传的视频构成侵权的初步证据及权利人的真实身份信息的通知后,应该根据构成侵权的初步证据和服务类型采取删除、屏蔽、断开链接等必要措施。

最后,网信办针对深度合成技术的运用,出台了一些有针对性的管理办法和规定。首先,《网络信息内容生态治理规定》第23条规定,网络信息内容服务使用者和网络信息内容生产者、网络信息内容服务平台不得利用深度学习、虚拟现实等新技术新应用从事法律、行政法规禁止的活动。这一条款实际上是一种宣示性条款,一方面彰显要严守法律法规底线的价值观念,另一方面也体现了保留新技术发展空间的态度。

《网络音视频信息服务管理规定》(以下简称《规定》)则采用了安全评估——源头控制——风险识别——损害应对的治理框架,体现了综合运用标识、检测等技术来对深度合成的音视频进行治理的法律与技术结合的路径。首先,第111款规定了“标识义务”,规定网络音视频信息服务的提供者和使用者利用基于深度学习、虚拟现实等的新技术新应用制作、发布、传播非真实音视频信息的,应当以显著方式予以标识。这与《数据安全管理办法(征求意见稿)》第24条是一致的思路。当然,基于对当前技术发展程度的考量,目前规定的“标识义务”还比较基础。技术界也在探索如何更好地建立防止标识被篡改的机制,包括在内容源头对真实内容和合成内容进行区分标识,在视频中添加数字水印,并在区块链中进行记录等。

其次,《规定》第12条明确规定应部署“非真实音视频鉴别技术”。这对于基于标识的区分体系是非常重要的补充。可以预见,对于所部署的鉴定技术的要求会随着技术的发展而提高。这种鉴定技术对于社会识别虚假信息的能力建设非常重要,很多国家的政府项目都进行了一定的资助。除政府资助外,来自合规需求的动力和专利技术被纳入标准的可能性将是调动广大市场主体投资于相应技术研发的重要激励。

最后,《规定》第13条规定了网络音视频服务提供者应建立健全辟谣机制。该条并未规定具体的细节措施,这在一定程度上体现了充分发挥企业主观能动性、实现社会共治的理念,为企业对社会治理积极进行贡献保留了空间。

智能社会的法治理念

前述法律法规为深度合成技术的有序发展奠定了必要的基础框架。智能社会的法治建设还在不断的发展和探索之中。我国对新技术、新产业、新业态、新模式确立的“包容审慎”监管原则,以及在深度合成技术法律规制中的具体要求,均体现了在新技术新应用不断发展涌现的当下,智能社会法治的发展有一些基本的理念和方向,已经取得了较高程度的共识。

首先是以人为本。这是法律的基本原则和价值立场,也充分体现在民法典人格权编之中,尤其是体现在对人格权的法定性和开放性的平衡。这方面也反映出法律需要与伦理相结合。目前社会公众的风险意识已经显著提高。企业在研发智能产品时,无论是出于对社会伦理的尊重,还是出于对企业形象和市场份额的考量,都应该主动对产品和服务条款进行法律和伦理评估,并建立风险应对预案。我国一些高科技企业已经开始建立企业内部的伦理委员会,来加强对科技产品及服务的伦理审查。

二是法律与技术相结合。智能社会的治理需要法治与技术治理进行有机统一的协调结合。一方面,法律要对技术的发展予以积极观照;另一方面,立法实践中已有一些与技术治理措施相结合的探索,包括对技术保护措施的法律保护、将平台注意义务或免责条件与技术发展的情况相结合、在一些领域将对技术的要求与标准、认证相结合等。《网络音视频信息服务管理规定》采用的安全评估——源头控制——风险识别——损害应对的治理框架就是一个体现。但技术与法律结合不能是随意的,而应建立在正当性、必要性以及充分可行性论证的基础之上。

三是重视信任和信用机制建设。新技术发展初期可能存在公共风险,比如深度合成技术也可能存在不合理的使用。所以认证、溯源机制和信用体系可能是保障未来信息技术产业有序发展的重要路径,也是构建信用社会的必要基础。

四是强调社会共治。“共建共治共享”的社会治理理念对法治建设提出了引领性要求,包含着丰富内涵。面对技术发展过程中产生的新问题,其有效解决离不开。在智能社会的建设过程中,法治建设需要调动掌握先进技术企业的积极性、先进性,调动更广泛的社会主体参与建设,同时要求法律人克服专业知识的限制,保持对新技术发展的关注。保证法治在必要时能够突破旧机制和旧思维的束缚,引导技术更好地面向未来。

五是具有全球化的视野。一方面在对新技术的治理中要考虑到国家竞争力和国家安全维度,另一方面,需要积极进行国际交流合作。智能时代的法治建设是一个全球性的问题。在人工智能伦理与治理领域,我国和国际上许多国家和组织,均开展了积极探索和交流,这为探讨智能技术的全球治理提供了基础。

(作者系中国人民大学法学院副教授)


责编:王硕

联系我们 | 诚聘英才 | 广告征订 | 本站公告 | 法律声明 | 报纸订阅

版权所有 Copyrights © 2014-2019 www.legalweekly.cn ALL RIGHTS Reserved 《法治周末》

京ICP备10019071号-1 京报出证字第0143号

京公网安备 11010502038778号