摘要: 本文深入分析了深度伪造技术的技术原理、技术特点，并以网络中传播的AI“复活”明星的视频为例，揭示了该技术背后潜藏的伦理和法律风险。深度伪造依赖于机器学习算法、高性能计算能力和海量训练数据集，能够生成高度逼真的音视频内容。然而，这种技术的广泛应用也带来了诸如表象复刻与已逝明星主体价值完整性冲突、低门槛高仿真视频易导致道德行为失序、以及永生噱头下的技术短板与盈利陷阱等伦理风险。同时，深度伪造技术的滥用还可能触及法律底线，包括侵犯肖像权、名誉权以及传播虚假信息等。针对这些问题，本文提出了加强技术监管、完善法律法规、提升公众意识等多方面的规制治理策略，以期为深度伪造技术的健康发展提供有力保障。
Abstract: This paper deeply analyzes the technical principles and technical characteristics of deep forgery technology, and takes the video of AI “resurrection” stars spread in the network as an example to reveal the ethical and legal risks hidden behind the technology. Deep forgery relies on machine learning algorithms, high-performance computing capabilities, and massive training data sets to generate highly realistic audio and video content. However, the wide application of this technology also brings ethical risks such as the conflict between representation reproduction and the value integrity of the deceased star subject, the disorder of moral behavior caused by low threshold and high simulation video, and the technical shortcomings and profit traps under the eternal gimmick. At the same time, the abuse of deep forgery technology may also touch the legal bottom line, including infringement of portrait rights, reputation rights, and dissemination of false information. In view of these problems, this paper puts forward various regulatory governance strategies, such as strengthening technical supervision, improving laws and regulations, and enhancing public awareness, in order to provide a strong guarantee for the healthy development of deep forgery technology.
1. 引言
近年来，有网友利用AI技术“复活”已逝明星，并制作或传播含有虚假信息的视频。这些行为在发布后引发了逝者家属的强烈不满，认为这些视频侵犯了明星本人的肖像权，也对家属的情感造成二次伤害。此外，还有不法分子利用这一技术，伪造政治领袖的言论视频，散布虚假信息，对社会稳定和信息安全构成了严重威胁。无论是无心的娱乐行为，还是涉及违法犯罪的行为，都有一个共同特性：都由深度伪造技术作为支撑，而这些视频引发的社会舆论，也指向了深度伪造技术背的伦理风险。本文旨在深入探讨基于深度伪造技术的网友复活明星视频所蕴含的伦理和法律风险。通过分析深度伪造技术的技术原理、技术特点，以及其在复活明星视频中的具体应用，研究深度伪造技术背后的伦理风险问题，并探索针对深度伪造技术滥用的规制逻辑。
2. 深度伪造技术发展现状
2.1. 深度伪造的技术原理
深度伪造的运作主要包括三项底层技术，一是机器学习算法，二是算法运行计算能力，三是算法训练数据集[1]。机器学习算法在深度伪造技术中占据核心地位，主要依赖于生成式对抗网络(GAN)。GAN通过生成器和判别器的对抗训练，模拟真实数据分布，生成高度逼真的图像或视频。为了运行这些复杂的算法，需要强大的计算能力，包括高性能处理器和GPU集群，以确保图像和视频的生成、处理与优化过程的高效性。此外，算法训练数据集的质量与多样性对伪造内容的真实性和泛化能力至关重要。常利用ImageNet、PASCAL VOC等公开数据集，以及如LVIS等针对深度伪造的数据集进行训练。这些底层技术的结合，使得深度伪造技术能够生成难以分辨真伪的内容。
2.2. 深度伪造的技术特点
在GAN (生成对抗网络)、高性能处理器和CPU集群以及海量高质量算法训练数据集的支持下，深度伪造技术展现出了其独特的技术特点和实践应用价值。首先从技术上说，深度伪造技术具有自主性和自我优化性[2]。GAN模型通过无监督学习或弱监督学习的方式，能够自动从训练数据中学习生成音视频数据的规律，而无需人为设定具体的生成规则。此外，GAN的对抗性训练机制使其能够不断优化生成模型，提升生成音视频内容的真实性。其次从实践应用角度，深度伪造技术生成的音视频有高仿真性和经济性。GAN模型对真实音视频数据的深度学习和模拟能力，使其能够生成在视觉和听觉上与真实内容难以区分的音视频数据。同时利用计算机自动生成逼真的音视频内容，无需过多的人工干预，并且能在短时间内完成复杂的音视频，相比于传统的声音和图画处理技术，深度伪造技术下生成的内容有在更高的效率和更少的资源消耗，获得更高的收益。
3. 基于深度伪造技术的网友复活明星视频的伦理风险
3.1. 表象复刻与已逝明星主体价值完整性冲突
深度合成技术可能会消解人存在价值的完整性，从“一个整体的人”演变成由“一张脸”来承载人的价值[3]。具体而言，AI技术通过精准复刻已故明星的面容与声音，在数字域内实现了他们外在特征的再生，使这些个体以一种赛博空间内的“幽灵存在”形式延续。
尽管这种技术为粉丝群体提供了缅怀与纪念的途径，通过制作视频以延续对偶像的情感寄托，但其本质却构成了对明星主体价值的深刻片面化与扭曲。明星作为独特的个体，其价值远不止于其物理形态的再现，而是深植于其生前的创造性贡献、社会成就、个性化的精神风貌及深远的社会影响力之中。深度合成技术所复现的，仅是明星外在形象的空壳，缺乏了支撑这些形象背后的思想深度、情感丰富性和精神内核，从而构成了对明星作为完整人格主体价值的一种简化和误读。
3.2. 低门槛高仿真视频容易落入道德行为失序的陷阱
道德行为失序现象，指的是在现代社会框架下，作为维系社会秩序、指导个体行动的道德价值体系及其伦理准则遭遇了缺失、效力减弱或执行障碍，进而引发的社会与个体层面道德实践与价值导向的失控、无序与紊乱状态。由于我们的形象和声音与我们的身份密切相关，在深度造假的时代，保护我们的形象和声音不被超现实的数字代表所操纵应被视为一项基本的道德权利[4]。深度伪造技术(Deepfake)，通过收集并分析已故公众人物在网络空间遗留的音频与视觉数据，能够创造出与原始个体难以区分的虚拟数字形象，即“赛博重生”。这一现象不仅违反了被遗忘权原则，即将个体从数字记忆中合法移除的权利，还使得逝者违背自身意愿持续存在于网络空间。更为严重的是，部分不法分子利用此技术“复活”明星形象，通过扭曲其性格特征以迎合公众幻想，此举不仅是对逝者形象的篡改与滥用，更可能对逝者家属造成深刻的心理创伤与二次伤害，触及了伦理与法律的双重底线。
3.3. 永生噱头下的技术短板与盈利陷阱
深度伪造的核心技术GAN (生成对抗网络)算法支持下，生成高度逼真的图像或视频成为了可能。部分公司甚至以“XX永生”命名，试图通过技术手段实现逝者的“数字永生”，也就是生成复原逝者样貌声音的视频，达到所谓的永生。追溯“永生”这个概念，是起源于国外，核心是将逝者的意识从大脑中提取并转换为数字形式，放到一个盒子里，再打开这个盒子，就能以逝者生前的思想意识出发复原他的一举一动[5]。这种永生涉及到涉及大脑神经元的复杂连接和电化学活动，这些都无法简单地通过技术手段进行复制或转移。在现在依靠深度伪造技术达到的“赛博重生”，由于所采集的数据资料有限，生产者使用素养不高，训练次数远远不够，导致生成的视频中，只能做到在脸部和声音的还原，动作和神态无法完全相似。而通过夸大技术能力和使用模糊的语言，这些公司误导消费者对技术的期望。消费者可能误以为这些服务真的能够让他们与逝去的亲人以某种形式“重逢”，或者至少能够保留逝者生前的某些重要特征或记忆。然而，实际上这些服务往往只能提供逝者外貌、声音和可能行为的模拟，而无法真正还原逝者的思想、情感和意识。这种期望与现实的巨大落差，不仅会让消费者感到失望和沮丧，还可能引发对技术的信任危机。
3.4. 隐私与人格：对逝者法律权益侵犯风险
人格权，指民事主体凭借其法律上之独立人格所固有并享有的，以个体人格利益为权利标的，旨在维护主体人格独立与完整之必要权利范畴。其中，AI复活明星视频涉及的法律权益包括肖像权、名誉权及隐私权。就逝者而言，其人格权虽随生命终止而在直接行使上受限，但基于亲属间特定法律关系及逝者人格利益之延续性考量，诸如肖像权等特定人格权可由其近亲属(如配偶、直系血亲等)在法定范围内代为行使，以维护逝者生前形象之不受歪曲与滥用。深度伪造技术的实施，需要海量数据资源进行算法训练，因此要生成逼真的视频，就需深度挖掘并处理逝者生物信息，此过程不仅触及逝者隐私权的边界，更因生物信息的专属性、唯一性及强烈的人身依附性[6]，对逝者身份权构成了潜在侵扰。尤为值得注意的是，未经逝者近亲属明确授权，擅自利用深度伪造技术制作并传播逝者形象，无论出于商业目的抑或非商业用途，均直接触犯了逝者肖像权的保护范畴，构成了对逝者人格利益及近亲属情感利益的双重侵害。
4. 针对深度伪造技术伦理法律风险规制的限制与挑战
4.1. 法治实践中深度伪造技术与证据威胁
2017年，Reddit网站色情换脸视频事件最后因开源证据溯源困难不了了之，使得深度伪造技术相关案件背后的证据收集威胁显露。在法治实践中，证据是法律程序的核心，它直接关系到案件事实的认定和法律的适用。而深度伪造技术的使用，为证据的认定带来挑战。首先是深度学习算法的开源特性加剧了技术滥用风险。与传统图像处理软件如Photoshop相比，深度伪造技术的算法在2017年即已实现开源，用户无需承担高昂的软件使用成本即可获得强大的伪造能力。这一变化极大地降低了技术门槛，使得更多非专业人士也能轻松掌握深度伪造技术。然而，这也为不法分子提供了可乘之机，他们可以利用这一技术伪造视频、音频、图像等证据材料，严重干扰司法公正，损害法律权威。其次是证据伪造，这其中又分为直接和间接威胁两种情况，即用深度伪造技术直接制造谣言，没有真实依据，伪造整个案件；或伪造真实事件中一些细节。深度伪造技术的出现无疑会加大法庭证据真实性、相关性和充分性的审查难度，甚至会影响证明责任的分配[7]。
4.2. 高仿真视频对司法人员的认知和情感影响
相较于图像或音频证据，视频证据因其连续性、情境丰富性和直观动态性，展现出更高的证明力。深度伪造技术的兴起，使得生成高度接近现实场景的视频成为可能，这一技术对司法证据鉴别构成了新的挑战。研究表明，司法人员在接触视频证据时，对案件信息的记忆与保留效率提高，相较于其他证据形式，其提升幅度可达650%，这体现了视频证据在塑造司法人员认知中的作用。然而，视频证据的高仿真度也带来了潜在的风险。作为具有情感与主观意识的个体，司法人员在审视这些逼真场景时，可能会受到情感波动的影响，从而在案件审理中不自觉地融入个人情感因素，对判决的公正性构成潜在威胁。此外，媒体对高仿真视频的报道与讨论，可能引发公众对案件的广泛关注与情感投入，这种外部舆论环境可能间接影响司法人员的独立判断，增加司法决策过程中的复杂性与不确定性。
4.3. 技术认知局限与刚性应对措施陷阱
AI技术应用于“复活”明星的伦理风险不仅触及了当事人的法律权益保护问题，还影响了其道德权利的边界。此外，此类技术的广泛应用不仅局限于个体层面，更对社会的整体认知框架与信任机制构成了潜在挑战。具体而言，一方面，存在不法分子利用深度伪造技术制造“永生”幻象，以牟取不正当利益或误导公众；另一方面，也有粉丝群体出于纪念与情感寄托的初衷，制作相关视频进行有限范围内的分享。面对这一复杂情境，关于技术使用者的行为是否构成侵权，是否应一律采取反对立场或诉诸法律途径，成为深度伪造技术相关案件处理中亟待审慎考量的问题。深度伪造技术的算法开源特性和用户复杂性导致其使用情景涉及网络生活的方方面面，除却直接涉及AI复活明星的特定案例外，用户还可能将深度伪造技术用于娱乐目的，创作并分享视频内容。针对此类行为，是否需要制定严格的法律规制措施，以及如何平衡技术创新、个人表达自由与社会公共利益之间的关系，作品著作权归属均要求平台方与相关部门在借鉴既有经验的基础上，进行全面而深入的评估与考量。同时，技术认知的局限性也是不容忽视的方面，它要求我们在推进技术应用的同时，持续增强对技术本质、影响范围及潜在风险的认知，以确保技术发展的方向与社会伦理、法律规范相协调。
5. 规制逻辑
5.1. 技术角度：识别技术更新迭代，全球合作扩大治理能力
在深度伪造技术出现之前，音视频的伪造是粗糙的、少量的，深度伪造技术通过数据集的深度学习和训练，且深度学习的算法已经开源，生成的音视频是高仿真的、大规模的、难以分辨的，传统的音视频鉴定方法已经与现有的音视频伪造技术脱节，因此治理深度伪造虚假信息需要深度伪造识别技术的职称。有研究认为深度伪造的鉴定识别方法分为四类，基于具体伪影的、基于数据驱动的、基于信息不一致和其他类型视觉深度伪造检测[8]。深度伪造技术在违法犯罪中的应用，表现出虚拟化、跨地域和链条化操作的特点。这些活动基于互联网的海量信息数据，其行动轨迹遍布全球，追踪难度较高[7]。在全球化的大趋势下，深度伪造犯罪也需要全世界各国合作，治理流动在互联网中的虚假音视频。为了这个目标，全球可以针对识别技术进行研究成果和进展共享，进行开源证据的整合。
5.2. 法律层面：借鉴国际经验，优化深度伪造证据应对策略
治理深度伪造技术滥用，精准识别技术为核心，配套法律与使用规则制定为必要路径。我国已出台《网络音视频信息服务管理规定》，对深度学习算法开源使用设限，禁止传播虚假信息。民诉、刑诉法亦明确伪造证据的法律后果。面对深度伪造对证据审查的挑战，可借鉴国际经验，如美国学者的建议：深入分析证据来源、时间；强化身份验证；严格质证询问；发挥技术鉴定作用。处理案件时，应采用系统化思维，综合考量证据多方面因素，构建逻辑闭环[7]。完善证据审查体系至关重要，需强化技术鉴定在真实性判断中的角色，尤其在争议焦点信息难以确认时。同时，优化专家辅助人制度，明确其地位、职责及意见采纳标准，可借鉴国际规则细化审查标准。针对特定情形，灵活调整证明责任分配，如实行“反驳方举证”规则，或根据证据保管责任分配证明责任，提高审查效率，防止滥用辩护。此外，鼓励举证方采用“组合提交法”，结合原件、复制件、内容数据及关联痕迹等多维度证据，增强证据的说服力和可信度。这些措施共同构成应对深度伪造技术挑战、维护司法公正的重要策略。
5.3. 社会层面：平衡策略，刚柔并济
技术是中性的，技术造成的什么后果取决于使用者的道德素养和使用目的。因此，互联网中传播深度伪造视频既包括扰乱社会秩序的虚假伪造内容，也包括从讽刺、娱乐、纪念等善意的目的出发的无严重社会危害的视频，那么对于这些视频的鉴定和传播限制需要有区别的考量。康德(Immanuel Kant)将人等同于理性存在者，充分弘扬了人类理性的力量。通过理性之缰绳驾驭好智能科技的野性，把技术的负向效应控制在合理限度[3]。在深度伪造技术滥用问题的治理中，要客观地看待技术发展和规范发展不匹配的问题，同时随着对深度伪造技术认知的进一步深化，处理问题的方式也可以随之，由刚向柔转变。如果说法律处罚属于刚性的手段，那么平台的审核条例作为柔性的政策，仍需随技术发展而升级更新，把这些伦理规范变成制度，还要不断细化科技治理的工作方法和伦理审查的办法。最后，建立一个既有刚性又有柔性的治理体系，让技术的负面影响降到最低，实现治理方式的灵活切换。
6. 结语
深度伪造技术的出现，无疑在数字内容创作与娱乐产业中开辟了新纪元，既丰富了视觉与听觉的边界，为艺术表达与娱乐创新提供了前所未有的可能性，又伴随着不容忽视的伦理与法律考量。这一技术的双刃剑特性，要求我们在欣赏其带来的丰富性与创意时，亦需深刻认识到伴随而来的挑战与风险。展望未来，随着技术自身的成熟与法律框架的逐步健全，深度伪造技术有望在更加稳健的轨道上前行，其应用将更加聚焦于促进正面价值与文化发展的方向，从而在技术进步与文明演进的交响曲中，扮演一个更加和谐与建设性的角色。