一、“深度伪造”技术引发的法律新话题

随着人类行为从传统物理场域向数字虚拟空间的迁移,与之相匹配的自然科学也正经历着从描述自然现象的实验科学和以三大力学定律为条件的理论科学向电子计算机为代表数据密集型科学过渡的革命。可以毫不夸张地说,在此期间算法的发现和认知是推进科学技术发展的基础性工具。二十世纪以将,基于算法演绎出的深度学习使人工智能产生了革命性的突破,让人类切实地领略到人工智能给生活带来改变的潜力和魅力。[1]P19迄今为止,深度学习经历了3次发展浪潮:20世纪40年代到60年代的控制论,20世纪80年代到90年代的联结主义,以及如今超越了机器学习模型的神经科学观点。[2]P200现代意义上的深度学习诉诸于学习多层次组合这一更普遍的原理,它可以应用于那些并非受神经科学启发的机器学习框架。算法背后数据元素的迅速兴起,使得针对算法的应用技术积累已经达到质变的奇点,其中智能化算法的迭代和应用也不再是“纸上谈兵”,“深度伪造”技术的出现便是最佳佐证。

“深度伪造”是指对图像、视频和音频进行超现实的数字伪造,它的出现业已成为人工智能社会进化过程中的缩影。一方面,计算机算法诞生改变了人类记录世界的方式,在经历胶片革命、2D分层技术时代的基础上逐步积累,逐步衍生出今天在世界范围内普遍承认的计算机成像工艺。另一方面,“深度伪造”技术的兴起和发展,推进知识生成模式或路径的变革。知识的传递方式和获取路径也变得简单和有趣,而信息的互动也不再是高深莫测的“独门绝技”,故而“深度伪造”技术势必会在教育、艺术等领域展现出特有的魅力。当然它的出现并不是某一学科单纯发力的结果,相反它是包括数学、计算机学、物理学不同学科角力后的新产物。自从摄影技术诞生,人类便致力于寻找操作或控制媒体介质的方法,而这一时间起点最早可以追溯至十九世纪六十年代。典型例子便是拉罕·林肯的肖像,这张照片实际上是林肯头部和约翰·卡尔霍恩身体的照片的结合。[3]由此可见,利用诸如多次曝光和组合印刷等技术对图像进行修改早已不再是“独门秘籍”,而后来Photoshop(亦称“PS”)软件甚至可以改变图像实质结构,实现摄影艺术家的夙愿。过去很长一段时期,对于音频和视频的检测工作简便和直接,而“深度伪造”技术正在改写这种局面,伪造的图像、视频以及音频更加真实和难以揭穿。“深度伪造”技术的关键是使用“神经网络”进行机器学习。神经网络初期以节点网络为特征,而节点网络是由一组随机设定的数值标准控制。正如经验可以细化大脑的神经节点,实例可以训练神经网络系统一样,如果网络处理大量的样本,它就可以创建越来越精确的模型。正是通过这个过程,新网络对音频、视频或图像进行分类,可以生成逼真的模仿或篡改。例如,华盛顿大学的研究人员发明了一种神经网络工具,它可以改变视频,让说话者说出与当时不同的话。就其本身而言,借助神经网络方法的机器学习将预示着创建假图像、视频和音频的能力的升级,但故事并未就此终结,“深度伪造”技术的兴起主要得益于“生成式对抗网络”和“卷积神经网络”。由谷歌研究人员伊恩·古德费勒发明的GAN同时使用了两个神经网络。一个称为“生成器”的神经网络利用数据集生成一个模拟数据集的样本,主要负责基于底层图像数据集生成样本输出(例如图像);而另一个称之为“鉴别器”的神经网络主要负责基于真实的目标图像对“生成器”生成的伪造图像进行验证和评估。这两个神经网络以迭代的方式生成逼真的“作品”,逐渐接近原始数据集中的图像。GAN技术的日益优化,无疑会出现一系列极具说服力且难以揭穿“产品”。而卷积神经网络,是一种专门处理具有类似网格结构的数据的神经网络。例如时间序列的数据和图像数据。卷积神经网络表明该网络使用了卷积这种数学运算,它通过三个重要思想来帮助改进机器的学习系统:稀疏交互、参数共享以及等变表示。这对于“深度伪造”行为的展开同样意义重大。

当前理论界就法律与“深度伪造”技术的关系议题投入了一部分的精力,并取得相应的研究成果,但基本上都以宏大叙事的方式展开,并未准确理清二者的关系。双方都在各自封闭体系内“闭门造车”,所以彼此间的制约、抵牾甚至是冲突便不断升级,相关的技术风险和法律风险自然也随之产生。鉴于此种情形,本文拟从“深度伪造”的技术风险入手,进而探究相应的法律风险与纾解之道。

二、“深度伪造”的技术风险

人类对于生活方式更新的心理期待伴随着信息革命的不断变化而进入新的演化阶段,以“深度伪造”技术为代表的新型人工智能技术推动全球经济产业新一轮高涨的同时,也衍生出内在的风险因子。[4]“科技——产业”是任何一种新技术都必然面临的风险,而且二者之间的张力开始由个别领域扩至社会的各个角落。诚如谷歌的首席执行官桑达尔·皮查伊所言,人工智能将比火更深刻地影响着人类,例如尽管谷歌机器学习工具可以帮助发现新的行星,但它也依旧无法摆脱被不法分子所用的魔咒。[5]

(一)大众数据被深度裹挟

开放性是二十世纪末至今世界范围内信息革命的结果,此背景下社会成员都不再是单纯的数据创造者、传递者抑或接受者,而是穿行于三个不同的角色之间。铺天盖地的数据被计算机锁定并借助强大的算力分析和挖掘之后便成为了增值的开源情报来源,甚至成为了一门独立的情报学科,由此可见开放性对时代的反作用力度之大。[6]如果“深度伪造”技术力图实现在教育、艺术、医疗等领域的伟大抱负,就需要大量数据的喂养,进而为算法的展开提供充裕的素材。如所周知,个人数据存在的价值便是提供一种可识别的信息载体,如此“深度伪造”技术的正向或反向运动势必与社会大众的个人数据纠缠在一起。作为与时代同步匹配的权利束,个人数据再次焕发生机,有别于传统观点强调对于公民私密信息的保护,大数据支持的一体可视化技术使个人信息受威胁程度呈现指数级上升。“深度伪造”的出现、进化甚至渐变为一种不可控的技术,在很大程度上缘于大众数据在大数据时代被深度裹挟,使得可识别性国民信息的裸露性进一步增强。加之各种数据“抓手”——网络爬虫技术1的横空出世——顷刻间便可以捕捉到所需要各种类型丰富的数据,而这就使得“深度伪造”技术“如虎添翼”般攫取各种数据如入无人之境。大众数据被深度裹挟成为“深度伪造”技术的时代烙印,也成为人工智能时代之技术风险,无疑构成了对个人隐私的重大威胁。

(二)合成作品真伪莫辨

人类的认知范式伴随着信息技术的不断深入而进入新的演化阶段,以成像技术为例,经历了物理成像、机械成像后逐渐形成了当前的计算机成像技术。人和物本身一旦进入“深度伪造”的技术范畴内,便意味着计算机系统快速重复计算过程的开启。与一般的数字处理技术和高级图像编辑软件不同,“深度伪造”技术核心特征就在合成品真伪莫辨,难以被发觉。如上文所述,不可否认在“深度伪造”技术诞生之前,人类同样具备一定的伪造技术与能力,但“作品”本身的契合度与完整性一直饱受诟病,所以倒逼研究人员上下而求索。尽管早期的合成技术种类琳琅满目,但都存在致命的弱点,一方面视频或图片中的人物与周围的光线匹配度低,无法保证作品的完整性和协调性;另一方面,合成后的新作品的语音与人物的口型或者通常语速不一致,难以确保技术逻辑的一体性。之所以遭遇此种技术瓶颈,很大程度上是传统的合成技术其底层逻辑仍然是运用人工机械地拼凑零碎的信息(数据)残片,一毫秒的误差都可能造成“谬之千里”的局面。然而“深度伪造”技术的降临,恰好攻克了上述难题,因为它解码了合成作品的技术原理,将信息输入到计算机中,并允许计算机随着时间的推移从这个语料库中学习并生成新的内容。计算机会为“原型”和“作品”中所涉的两个人创建一个全方位的3D模型,以及两个人面部特征映射图。正如库克教授坦言:“计算机利用这些数据学习的时间越长,处理速度越快,“深度伪造”就越发达、越逼真。”[7]为了避免人类用户从各种数据源获取人脸的每一帧的单调,程序员编写了脚本并设计了可用的程序,由此增强了合成作品的识别难度,也进一步扩大了民众的认知偏见。例如近期出现的“杨幂换脸事件”就是“深度伪造”技术的杰作,视频中杨幂化身港版《射雕英雄传》中“朱茵”版的黄蓉却毫无违和感。[8]

三、“深度伪造”语境下的法律风险

“深度伪造”技术为影视制作成本提供了压缩空间,同时也为教育的创新式发展贡献了智慧,例如该技术可能制作历史人物直接对学生讲话的视频,让原本乏味的课堂重获新生。对于“深度伪造”行为,美国法学界的态度发生了微妙变化,从最初的中立技术到民事责任,进而发展为可能构成刑事犯罪。相较之而言,我国所涉“深度伪造”技术的事件尚未进入司法领域,而仅停留在理论探讨层面。尽管有学者认为,“深度伪造”技术有触犯刑法个罪之嫌疑,但是我国尚未有正式的法律案件作参考,所以对其研究后劲不足。实际上“杨幂换脸”事件已经暗示了深度伪造技术的滥用在我国可能面临民事制裁,在此背景下,有必要梳理清楚“深度伪造”技术的法律风险为理论和实践争议提供参考。

(一)版权规则的重构

“深度伪造”技术是将数据作为基础要素,并藉由神经网络的挖掘而展开,例如在FAKE-APP上有用户将香港明星徐锦江电影片段中的脸部表情像缝合到美国电影主角“雷神”和“海王”脸上。如此一来,“深度伪造”技术的每一次胜利都意味着多人(至少两人)信息的同向勾连和重组,由此衍生出对于传统版权规则的挑战。譬如,“深度伪造”技术的产品是否属于版权法意义上的作品?该合成产品的权利归属创制者抑或其他两方?一旦出现侵犯版权的情形该如何救济?一旦受害的人拥有版权,“深度伪造”的创建者是否可以要求法院认可其为合理使用等?上述问题在传统版权世界里“泾渭分明”,而拉入“深度伪造”的技术领域内却成为充满争议的话题,甚至一度被学界搁置。需要指出的是,“深度伪造”技术的诞生之际便注定其使命,即“合成”新作品或“创建”一个新的面部数据集。数据重组或再造规则的缺失将无法为“深度伪造”技术良性发展提供指南,使该技术背负“邪术”的标签。正因为如此,“深度伪造”技术的场域内,版权规则的重构比以往任何时代都更加迫切。同时,数据的流动性特征使得“深度伪造”技术的素材冲破了地缘因素的限制,事实上数据或个人信息跨境使用所进行的伪造已经不再是某一国家的版权问题,而将世界范围内的多数国家都卷入版权斗争中。制作者可能会利用脸书这样的社交媒体网站来收集和整理受害者的照片,创建全新的“脸”,最大限度利用受害者可能存在的数百张不同角度的照片。[14]我国网友也利用“深度伪造”技术打造出中国版的“复仇者联盟”,一时间风靡全球。更为严重的是,甚至有用户利用“深度伪造”技术发布虚假的政府新闻和色情视频,例如2017年的“卡塔尔断交事件”[15]和“红迪网事件”。[16]综上所述,大众数据被深度裹挟已经成为该技术不可消除的内在风险,因此法律应该适时调整版权规则进而适应国内和国际场景中的变化。

(二)侵害法益路径的翻新

计算机犯罪形成伊始,主要表现为黑客的个人炫技行为,而当电子商务兴起之后,挑战、攻击系统的原始网络犯罪快速消减,利用网络为工具的传统犯罪爆发式增长,利用计算机实施的财产犯罪占绝大多数。[17]与单纯利用计算机实施犯罪不同,“深度伪造”实施侵害民众法益的方式更加讲究“原创性”,整个流程都是借助与深度学习模型完成,基本不会破坏他人计算机中的内置应用程序。由于“深度伪造”的技术起源与色情密切相关,因此许多深度伪造者会关注一个比较阴暗的方面便是制作名人的色情视频。该技术操作简单,所以使用者迅速增多,伪造的内容自然也是千奇百怪,而相应的受害对象也从最初的明星发展为政客,甚至是普通民众,而这无疑给女性名誉权带来威胁。客观层面而言,名誉就是他人对自己的看法;主观层面而言,则是自身对于他人看法的顾忌。女性名誉体现为一种间接性的关系价值,也即当他人的观点或者看法足以影响自己生活时,这种评价才会被重视。人是社会性的动物,女性在一个分工精细化的文明社会中,其大部分事情的完成都需要他人的协助,而在这种关系链中,他人对自己的评价就变得异常重要。女性名誉受到侵害不仅使其自身遭受精神痛苦,而且还会蔓延至工作、教育等多个环节,最终摧毁原有的良好社交关系。例如2017年9月30日,红迪网用户发布了一张女演员麦茜·威廉姆斯的虚拟脸,并制作了相关的性爱视频。又如一段假视频中显示倡导控枪活动人士艾玛·冈萨雷斯撕毁了一份宪法。实际上,在最初的视频中,冈萨雷斯撕毁的一张上面画着普尔塞夫靶子的图片,但有人为了煽动性的目的篡改了图像。[18]我国某视频网站中出现将英雄人物“换脸”到其他搞笑甚至低俗视频中,也从侧面反映出“深度伪造”技术的危险离我们并不遥远。

由于技术的通用性,“深度伪造”得以在任何常规视频的环境中使用,而这对于受害者来说无疑是一场灾难。详言之,勒索者可能使用“深度伪造”技术从他人处榨取有价值的东西。在这种情况下,受害者可能会被迫提供金钱、商业机密等以阻止深度伪造作品的发布。如所周知,并非所有的价值提取都是有形的。深度伪造技术的出现使人们的脸、声音和身体都可以变成真正的色情作品。红迪网的一个版块(目前已经关闭)展示了一些女明星的深度伪造性爱视频,用户积累了超过10万名。一位红迪网用户曾在论坛中留言称,他拍了一段“相当不错”的视频,内容是和他一起上高中的一个女孩,照片是从她照片墙和脸书账户上抓取的大约380张照片。[19]敲诈、勒索、名誉破坏等问题的可能性都表明,如果受害人无法证明一段显示他们处于令人厌恶的位置的视频实际上是伪造的,他们可能面临法律和道德的双重诘难。原因在于“深度伪造”技术的盛行会导致真实视频的价值降低。试想如果伪造视频不能被信任,那么就需要一个确证的视频来揭穿另一个“深度伪造”是被篡改,而这无疑使本应得到证实的证据被认可的成本提高。时至今日,视频一直是一个相对可靠的信息来源,但是,一旦“深度伪造”变得更受欢迎,任何视频的价值——无论是真的还是假的——都必然会下降,因为没有可靠的方法来确定视频是否被操纵。除此之外,还可能侵蚀公共机关的公信力,这无形中削弱了国民对于政府的信任。这其中涉及的公共机构范围广基本上覆盖了国家的全部行政机构和国家工作人员,诸如立法者、司法者、执法者以及各级工作人员。例如,网络黑客利用深度伪造技术虚构移民署官员用种族主义语言谈论移民或残忍对待被拘留儿童的欺诈性视频。而这种叙事方式经由媒体扩散却会煽动不知真相的民众。综上所述,“深度伪造”技术所产生的“换脸视频”可能演化为新型犯罪工具不仅影响公民的人身权和财产权,甚至危及国家安全。

(三)言论自由含义的重申

“深度伪造”技术的核心特征是“虚假化”,而这种属性的发挥空间必然对于既存秩序造成高烈度冲击,首先便是伪造作品与公民言论自由的关系。言论自由是人民表达他们意志和意见的无机方式。现代世界的原则要求每一个人所应承认的东西。在法国,一直显得言论自由要比默不作声危险性小的多,因为后面一种情形,怕的是人们会把对事物的反对意见扼在心头,至于论争则可使他们有一个出口,而得到一方面的满足,何况它又可使事物更容易沿着本身的道路向前推进。[20]P319一个成熟的社会,其社会需求必然呈现出多元化的色彩,何种言论有无价值,并无法在短时间内予以确证和预断。申言之,只要言论自由的内容不具有明显的恶意倾向,法律就应该保护其向外发展和传播的通道。出于上述考量,任何一个民主制国家的建立和发展都将言论自由作为不可或缺的基石,例如我国《宪法》第35条规定:“中华人民共和国公民有言论、出版、集会、结社、游行、示威的自由”;美国《宪法第一修正案》也规定:“国会不得通过立法剥夺或限制.....公民言论自由”。有学者将言论自由的初始原貌或模型称之为“街头发言者”,画面中一个站在城市肥皂箱上的人向来往的路人演讲或发放传单进而表达对政府或其他社会现实的不满。[21]P8应当说,这一模型确立了大众对于言论自由基本的思考空间和框架。在此种特定的空间和时间维度内,言论自由的议题被定格为个人与政府的关系。

然而,当今天我们再反思言论自由的含义、如何保护和促进言论自由等传统话题时,学术界和实务界都不能无视一个非常具体的语境——人工智能时代和互联网。[22]反观“深度伪造”技术它却成为一种另类,相对于图片、音频以及视频原本想要表达的内容,伪造后的作品在网络平台上显然具备“非中立”和“过滤性”特征,但是相对于新作品的创建者而言,这何尝不是一种新的“中立性”和“非过滤性”。此种情形下,是否有悖于言论自由的精神值得商榷。由此也可见看似包括“深度伪造”在内人工智能技术的低吟浅唱,都可能引起法律世界的动荡。

四、法律变革理念及其具体展开方式

“深度伪造”是人工智能技术与视频、音频处理技术的完美结合,它不是第一个,也必定不是最后一个。我们现在需要一种技术对其进行反制,以便在失控的情形下可以减小危害。互联网时代的信息扩散呈指数级增长,故而一种快速发现深度伪造和普遍有效的方法将有助于解决这一紧迫的公共政策问题。应当说,这种破解技术需要紧跟“深度伪造”技术的创新才可能实现目标。如果这种技术存在并可以通过社交媒体平台部署,上述系统性危害将会减少。遗憾的是,无论“脉搏法”2抑或是“生理信号法”3都被后续的技术破解。故而在技术层面积极寻找出路的同时,法律层面也应积极响应,促成“深度伪造”技术可控局面的形成。

(一)根植“柔性”治理的理念

毋容置疑,包括“深度伪造”在内人工智能技术对既存法律制度构成了新的威胁,并且也在版权规则、法益保护以及言论自由等方面提出新的期待。有学者认为,针对此种风险形态,应当积极引入贝克的“风险社会”学说,并在此基础上构建“风险刑法”,甚至进一步指出了具体的方案:立法拟制,推定,行为范畴的拓展,犯罪标准的前移,责任范围的扩张与责任形式的多样化,犯罪构成要素的增减,因果关系准则的创新,法定量刑情节的设置。[26]但是,当前我国正处于技术发展“黄金期”,不能因噎废食,如果寄希望立法的禁止性命令来维系原有社会秩序,不仅收效甚微而且会错失机遇期。故而探究与“深度伪造”技术匹配的法律治理路径,关键在于变革法律思维,根植“柔性”治理的理念,恪守法律谦抑性的本色。

第一,以伦理规范划定新技术的应用界限。

对“深度伪造”的内生性风险治理不仅是政府公共事务管理的应有之义,也是对智慧城市建设的考验,因此不宜先入为主地将新科技与禁止令法令粘连在一起。针对包括“深度伪造”在内的人工智能技术,各国都尝试过包括“审慎监管”和“审批管理”等诸多治理原则和框架。例如美国政府针对“深度伪造”技术,修改《通讯规范法案》,以期通过加重网络平台的义务阻止其恶性发展。然而有迹象表明,传统单一的政府治理模式无法有效规制“深度伪造”的技术风险,并可能导致社会大众对于新科技的认同感。[27]笔者认为,应当尝试强化伦理规范建设来规范“深度伪造”技术的发展。以“新闻报道”为场景,“深度伪造”技术的应用并非毫无边界可言,而是需要遵循新闻固有的真实性和及时性属性。与此同时我们应当积极推进“深度伪造”技术的伦理准则建设,防止设计者将认知偏见和错误的价值观引入到算法中去。

第二,以行业自律引导新技术的发展方向。

习近平总书记在中央政治局以“网络强国”为主题的学习中指出:“随着互联网特别是移动互联网的发展,社会治理模式正从单向管理转向双向的互动,从线下转向线下融合,从单纯的政府监管向更加注重社会协同治理转变。”[28]易言之,在发挥政府网络社会治理功能的同时,需要强化行业自律。世界范围内对于行业自律的模式大致可以分为三种:第一种以政府居于绝对主导地位;第二种政府指导+行业自律;第三种政府和行业共同调控。[29]就“深度伪造”的技术发展而言,本文认为应该通过外部规范和内部约束两个维度予以规范。一方面,政府适度监管,且尽量避免使用“管制性”法规介入调控,同时可以考虑有由个人与政府共同组成网络安全管理委员会,例如法国的互联网国家安全委员会。另一方面,考虑到互联网信息过载严重,需要互联网运营商的积极参与,而这种局面也正在促成。以2020年3月为例,全国各级网络举报部门受理举报1481.2万件,其中中央网信办(国家互联网信息办公室)违法和不良信息举报中心受理举报26.4万件,全国主要网站受理举报1318.0万件,同比增长近40%。[30]二者“双管齐下”不仅可以减轻政府治理“深度伪造”难度,而且还可以增强网络用户对于规则的认同感。

(二)明确“深伪”的管理主体

缺乏强有力的执行者,任何完美的制度都只会沦为“水中月,镜中花”。力图实现对大众权益的针对性保护,应该明确管理机构。就“深度伪造”技术创造的作品,应该由谁来管理,目前尚未定论,例如美国学界和实务界就存在众多分歧,有观点认为应该由联邦通信委员会承担,因为该机构已经为电视和广播电台制定了关于虚假信息的规则;[31]也有观点主张成立新的机构,因为目前的监管组织结构可能无法完全应对这些问题,是时候设立一个新的机构来处理互联网法律问题;[32]还有观点认为最佳机构应该是联邦贸易委员会。最后一种观点得到了多数人的拥护,主要理由是联邦贸易委员会有能力建立一个充满活力的市场,实现对数据安全问题的监督,进而制定有效的法规来解决“深度伪造”使用问题。[33]笔者认为,选择联邦贸易委员会作为管理机构因为其管辖范围宽广,足以追究“深度伪造”应用程序的创建者责任。由于“深度伪造”技术“正在使用某人的数据,并将其转化为他人的数据”,因此在未经同意的情况下使用数据,有可能将该技术带入“不公平或欺骗性的行为或做法,或影响商业活动”的范围。而联邦贸易委员会既存的制定规则和执行能力恰好能够设置禁止或同意规范。

回归本土化的语境中,我国于2017年颁行的《中华人民共和国网络安全法》第8条基本确立了网络安全的工作框架,即由行政机关主导,其他部门协作。按照此种逻辑,“深度伪造”技术所触及的网络治理问题同样应该交由国家网信部门处理。而这显然与上文已经论证过“柔性”治理思维相悖。互联网时代的到来,使个人信息保护话题逐渐浮出水面,有学者提出的“回应型”治理模式则与笔者的理念具有逻辑上的自洽性。基于此种理解,本文认为,针对“深度伪造”作品管理应该成立新网络安全联盟组织承担主要职责,而国家网信部门承担辅助职责。该联盟组织由各主要互联网运营商协商成立(例如百度、新浪、阿里巴巴、网易等),并在各地设立分支机构。一方面,“深度伪造”管理机构的职能应该与所要保护的法益相一致。不可否认“深度伪造”可能侵害的法益类型多样,诸如国家安全、社会秩序等,但是所保护的法益基本都可以抽象成个人信息安全,故而应该由专业性机构承担。各大互联网运营平台拥有数量可观的服务器,在信息处理的速度和深度上甚至优于行政机关,而且信息的安全保障也是其隐含的义务。另一方面,互联网运营商彼此间信息共享的程度较高,可以通过网络安全协议的形式进一步强化它们的通知义务,及时对涉及侵权的“深度伪造”作品予以屏蔽,防止事态的恶化。当然,侵权情形较为复杂时,可以由为网络安全联盟组织为主,国家网信部门为辅,综合进行调查。

(三)类比“演绎作品”处置

就版权规则问题而言,我们首先需要澄清“深度伪造”技术形成作品的类型。在关于“深度伪造”的技术逻辑环节,笔者已经证明“合成”是其作品的形式特征,而高度逼真则为实质特征。针对此种情形,本文认为可以比照演绎作品予以宏观把握。

对于何为演绎作品,我国《著作权法》立法上并未给予正面回应。根据美国《版权法》规定,“演绎作品”指根据一部或多部已有作品创作完成的作品,如译文、乐曲改编、改编成戏剧、改编成小说、改编成电影、录音作品、艺术复制品、节本、缩写本,或以此“改写”、“改变”或“改编”的任何其他形式。包含有编辑修订、注释、详解或其他修改的作品“作为整体”构成原创性作品的。[34]其后美国版权界推出了一系列旨在区分原创作品与演绎作品的原创性标准:(1)实质性区别标准主张“演绎作品”得以被认可需要有不同于原作品基础上的创新或个性;[35](2)超过仅是微小,限度变化的标准则强调不需要严苛的标准,只要存在细微的差别即可。[36]而后的大多数既存判决基本上将上述两种标准作为司法依据。对此我国学界基本上赞成第一种标准,这可能是考虑到对于原创作品的保护。本文也支持该观点,因为实质性区别标准不仅可以排除二次创作对于原作品的伤害,而且可以倒逼创新度的提升。遵循此种逻辑,“深度伪造”所创作的“作品”都是一种技术“合成”,即将原本不相关的两个作品缝合在一起,所以形式上符合“演绎作品”的组织结构。另一方面,“深度伪造”的高度逼真不同于单纯对于原作品的“复制”,更多表现为在新的场景下新作品的真实感,而这恰是原创性的灵魂所在。恰如尼迈尔教授所言:“个性是原创性的直观体现,但这并不意味着高度真实性与其水火不容”。[37]以“杨幂换脸”视频为例,伪造者将《射雕英雄传》中的朱茵饰演“黄蓉”的桥段,换作杨幂饰演使得作品的艺术性和观赏性都发生了转变。这种毫无违和感的“置换”满足了“演绎作品”对于个性的追求。又如徐锦江版的“海王”角色不仅真假难辨,而且使观赏者获得了不同于原版影片的视觉体现感,这是对于“演绎作品”中“改变”一词的直观展示。

需要注意的是,“深度伪造”的产物并非都是两个合法作品的融合,它还可能表现为“合法作品+违禁作品”,“违禁作品+违禁作品”这两种形式。于是便引申出另一个问题:“深度伪造”的违禁品是否享有著作权?学界和实务界对于普通违禁品的著作权问题,存在两种态度:以英国为代表的国家否定色情作品受著作权法保护;而以法国为代表的国家秉承“形式表达”的理念,而不强调内容的合法性,故而肯定色情作品的著作权。[38]我国《著作权法》倾向于前一种表述。应当说,色情作品享有一定的著作权,只是在出版和传播上应该受到限制,防止其对于公共秩序的冲击。而“深度伪造”的特殊性在于它是两个“作品”的融合,笔者认为就“合法作品+违禁作品”的合成品,应该否定著作权的享有,因为它是在损害原作品利益基础上创造的。然而,对于“违禁作品+违禁作品”的合成品享有一定著作权,但是传播途径应该受到限制,例如对两个色情影片进行深度“伪造”便属于后者。

(四)构建层次分明的法律责任体系

实际上,全面禁止“深度伪造”的存在本身就会给自治和民主文化蒙上一层阴影,让人不寒而栗。同时,“深度伪造”的本质是一种中立技术,所以立法过快回应甚至禁止可能会错过技术创新的黄金期,故而应在现有刑事法律体系中寻求答案。正如詹姆斯·温斯坦明智地指出,我们应该特别警惕授权政府官员决定“在通常高度意识形态化的公共话语背景下”做出的事实声明的准确性。

民事责任角度而言,“深度伪造”技术的发展首先指向民众的肖像权。作为人格权的重要组成部分,《中华人民共和国民法通则》(以下简称《民法通则》)第100条规定:“公民享有肖像权,未经本人同意,不得以营利为目的使用公民的肖像。”该法条被认为是肖像权保护的根本性条款。如果按照学界和实务界绝大多数观点来规制“深度伪造”,可能无法保护受害者的权益,因为《民法通则》仅支持为了商业利益而盗用他人肖像的行为进行赔偿的诉求。本文认为,可以利用《民法通则》主张肖像权保护。一方面,《民法通则》关于肖像权规定的“营利为目的”构成要件与《宪法》精神相背离。我国《宪法》作为“母法”,其它位阶的法律都应该遵循,其规定:“中华人民共和国公民的人格尊严不受侵犯,禁止用任何方法对公民进行侮辱、诽谤和诬告陷害。”肖像权属于人格权之一种,亦属于基本人权,额外添加要件显然有违宪法精神。[39]另一方面,“营利为目的”构成要件的规定并不符合生活场景。“营利为目的”是对物质利益的过分推崇,但现实生活中精神利益同样不可或缺,这在互联网时代显得尤为关键。例如“深度伪造”将盖尔·加朵的脸和其他名人的脸移到色情视频中色情明星的身体,这种侮辱性的手段对于肖像权人的伤害不可估量。又如网络用户将女星范冰冰的肖像融合到某色情视频中去。

行政规范立场而言,“深度伪造”技术的健康发展需要规范互联网平台的权利义务。2018年,国家广电总局颁行的《关于进一步规范网络视听节目传播秩序的通知》(以下简称《通知》)对于“视听节目网站”作出限制,禁止非法抓取、剪拼改变视听节目。作为“深度伪造”的发源地,并逐渐成为其“逐鹿天下”的主战场——互联网平台——并不仅局限于做一个旁观者,而应承担比报送义务更为广泛的责任。笔者认为,《通知》可以从三个方面具化网络平台的监管职责,对于违反者给予相应的行政处罚。其一,在上传阶段,网络平台应该尽到一定的提醒或通知义务。“深度伪造”的出现,尤其是当所涉内容为国家安全事务,则应该设置警告条款(禁止上传),旨在提醒上传者将伪造的作品上传到互联网上的法律后果,以免误导民众。例如,美国在“深度伪造”技术出现之后迅速做出回应,修改相关网站的视频及音频播放政策,以确保用户知悉。其二,在审查环节,网络平台在发现可能存在“深度伪造”的内容,应当及时报送相关部门。其三,在观察用户反馈报告后,倘若发现“深度伪造”内容应当及时移除。近期推特已经开始从其网站上移除“深度伪造”作品,并明确禁止交换面部色情内容。

刑事责任层面而言,“深度伪造”行为不仅对公民的名誉、个人隐私等私权利造成冲击,同样可能会带来国家安全诸多困扰。其一,可能构成诽谤罪。在美国某些司法管辖区,如果“深度伪造”的制作者明知视频是假的,或者他们不顾事实地发布虚假的视频,他们可能面临刑事诽谤罪的指控。诸如,将某人的脸部粘连到一部暴力色情视频的女主角身上,如果被告意图恐吓或伤害他人,并且知道视频是假的,他可能会被以诽谤罪名控诉。美国的立法规定和我国基本一致,笔者也赞成此种观点,因为“深度伪造”行为的核心罪素便是“伪造”而这与诽谤罪的犯罪构成要素具有入罪逻辑上的一致性。其二,可能构成危害国家安全的相关犯罪。由于“伪造”是深度伪造行为的逻辑起点,所以可能触及的刑事犯罪自然涉及编造虚假信息罪,而“传播”可以视为中介行为,进一步扩大了不利影响,自然也可能构成犯罪。具体构成何种犯罪,要结合“伪造”以及“传播”的内容综合予以考量,例如内容涉及恐怖主义的,则可能构成宣扬恐怖主义、极端主义、煽动实施恐怖活动罪;而若以分裂民族或国家为内容,则可能构成煽动分裂国家罪。在敏感时期,“深度伪造”的作品被分享或转载后,危害性大为提升,例如在新型冠状疫情发生之后,有伪造的照片或视频在网络中疯传。

需要说明的是,构建层次分明的责任体系与上文中提及的“柔性”治理思维并不冲突,前者重点强调对于民众、社会以及国家权益的维系,后者侧重于政府管控新科技手段上的克制和谨慎。以“杨幂换脸视频”为例,杨幂本人具备民事追偿的权利,但立法者和执法者不宜直接干涉。

(五)勘定“不得诽谤”的自由界限

我国《宪法》为言论自由表达提供通道的同时,也强调了对应的义务,即第38条规定:“中华人民共和国公民的人格尊严不受侵犯。禁止用任何方法对公民进行侮辱、诽谤和诬告陷害。”有学者将这种言论自由的界限称之为“不得诽谤”,并且该观点也得到刑法学者的赞同。此种说法将言论自由的物理边界和社会边界高度融合在一起,但是需要意识到场域的“改弦更张”对应的理解也应跟进,否则只会陷入“雾里看花”的困境。互联网时代的言论自由不再是一个公民内心声音的呐喊,而会演化为数据流包裹中着一群人向世界传递某种信号。这使如何判定“不得诽谤”也变得异常复杂。

“深度伪造”作为一种凭借技术上的“假”去表达创建者的“真”,直观上审视本质上就带有一种欺骗的性质。而这种欺骗达到何种程度才可以称之为“诽谤”无疑是问题的核心。笔者认为,“诽谤”是一种价值判定,可以考虑借鉴社会相当性理论,即符合社会相当性理论则排除“诽谤”的嫌疑,视为言论自由的表达。因为社会相当性在进行评价或者判断的过程中带有客观性和确定性的特质,是价值判断和事实判断的共存理论。韦尔策尔明确将社会相当性定义为:“所有处于共同体生活的历史形成之社会道德秩序内的行为,都是社会相当的行为。”[40]P201按照韦氏的逻辑,社会相当性不仅是一个功能性秩序理论,同时还是一个价值性秩序理论。德国学界通说将社会相当性看作事实层面和价值层面的统一,所以判定分为两个阶段:其一,看某种行为在社会生活中是否藉由事实上的通常性;其二,考察行为是否符合本国历史所形成的道德秩序并因此而获得社会认可。

按照上述逻辑,“深度伪造”行为是否属于“诽谤”性质可以分为两个步骤来判定。以“换脸视频”为例,近日有网友将刘小光的肖像缝合到电影《美国队长》男主角史蒂夫.罗杰斯的脸上。第一步,从所属的行业领域来看,二者都是影视演员,职业具有相通性,符合“正常性”的特征;第二步,从道德秩序来看,所合成后的作品内容与社会秩序并不冲突,所以可以接受。故而此种行为属于言论自由,与此类似国内知名的视频播放网站上“B站”就出现了“徐锦江版海王”、“郭达版杰森斯坦森”等都属于此类情形。

五、结语

随着科学技术逐渐转化为生产力,法律制度自身的演变和发展便与其悄然相连。与传统技术的诞生不同,“深度伪造”技术作为人工智能技术的衍生物却会引起法律世界的革命。“深度伪造”技术前所未有地将信息数据、深度学习、算法模型等糅合在一起,并呈现出包括版权规则和言论自由等一系列话题的“深度缠绕”的图景。全面理解“深度伪造”的技术逻辑和风险有利于法律制度的“无缝衔接”,这其中包括根植“柔性”的治理思维、明确管理主体、构建责任体系等一系列举措。此技术或将成为法学界需要认真对待的话题。

参考文献：

[1][美]罗伯特.赛德维克,凯文.韦恩.算法(第四版)[M].谢路云译,北京:中国工信出版集团,人民邮电出版社,2019.

[2][美]伊恩.古德菲洛,[加]约书亚.本吉奥,[加]亚伦.库维尔.深度学习[M].赵申剑译,北京:中国工信出版社,2019.

[4]裴炜.数据侦查的程序法规则——基于侦查行为的相关性考察[J].法律科学(西北政法大学学报),2019,6.

[6]韩娜､杨光.基于公开源情报的涉华暴恐问题国际舆论研究——1996-2017年外媒报道为例[J].情报杂志,2019,8.

[8]宣晶.视频“换脸术”走近大众,引爆亿级流量后为何令人担忧[N].文汇报.2019-2-27(2).

[9]邢会强.论数据的可携权在我国的引入——以开放银行为视角[J].政法论丛,2020,2.

[10]歌唱演员进行了一场粗俗的戏仿,法院裁定《2LiveCrew》歌讽刺罗伊.奥宾森(RoyOrbison)歌曲“漂亮女人”(PrettyWoman)但仍属于合理使用｡除此之外,恶搞色情作品也受到了“正当使用肯定辩护”的保护｡

[11]联邦最高法院认为,只要虚假事实对公职人员形成的诽谤并非出于恶意,便存在保护的价值｡

[12]密苏里州法院认为,“深度伪造”的受害者主张索赔必须满足下列两个条件:其一,被告应该意识到他的行为涉及不合理的造成损害的风险;其二,情绪困扰或精神损伤必须是医学上可以诊断的｡

[13]郑志峰.人工智能时代的隐私保护[J].法律科学(西北政法大学学报),2019,2.

[17]于志刚,李源粒.大数据时代数据犯罪的制裁思路[J].中国社会科学,2014,10.

[20][德]黑格尔.法哲学原理[M].范扬,张企泰,译.北京:商务印书馆,2019.

[22]左亦鲁.告别“街头发言者”——美国网络言论自由二十年[J].中外法学,2015,2.

[23]刘艳红.网络时代言论自由的刑法边界[J].中国社会科学,2016,10.

[26]劳东燕.公共政策与风险社会的刑法[J].中国社会科学,2007,3.

[27]朱体正.人工智能时代的法律因应[J].大连理工大学学报(社会科学版),2018,2.

[28]习近平.加快推进网络信息技术自主创业,朝着建设网络强国目标不懈努力[EB/OL].

[29]许玉镇.网络治理中的行业自律机制嵌入价值与推进路径[J].吉林大学社会科学学报,2018,3.

[30]倪艳楠.3月全国受理网络违法和不良信息举报1481.2万件[N].新京报,2020-4-6(1).

AlfredBell&Co.v.CataldaFineArts,Inc.,191F.2d99,102-03(2dCir.1951).

[38]丛立先.违禁作品著作权问题辨析——兼评我国《著作权法》第4条的修改[J].法学,2011,2.

[39]张红.“以营利为目的”与肖像权侵权责任认定———以案例为基础的实证研究[J].比较法研究,2012,3.

[40]陈璇.刑法中社会相当性理论研究[M].北京:法律出版社,2010.

蔡士林.“深度伪造”的技术逻辑与法律变革[J].政法论丛,2020(03):131-140.

基金:中央高校基本科研业务费专项资金项目“大数据反腐败的法律协同机制研究”(2020SK3);江苏社会科学基金重点项目“新时代江苏现代化教育强省建设机制研究”(20ZLA013)的资助