摘要: 当前，随着我国生成式人工智能技术的发展，虚拟数字人正逐渐被应用于各行各业的各个领域。在跨境电商领域，虚拟数字人作为带货主播频繁亮相于各大品牌直播间，极大地推动了市场规模增长。然而，虚拟直播技术也带来生成内容真实性、知识产权侵犯、隐私权泄露等法律与伦理风险。论文首先对虚拟数字人主播的主体地位进行了探讨，随后深入剖析了其在数据安全、算法偏见、知识产权等方面的治理挑战。为有效应对这些挑战，论文提出应制定完善AI数字人直播规范、贯彻包容审慎监管、实施分级分类监管与跨领域协同治理，并建议商家完善合规体系，以确保虚拟数字人直播带货合法合规发展。
Abstract: Currently, with the development of China’s generative artificial intelligence technology, virtual digital people are gradually being applied to various fields in various industries. In the field of cross-border e-commerce, virtual digital people frequently appear in the live broadcasting room of major brands as the anchor with goods, which greatly promotes the growth of the market scale. However, virtual live broadcasting technology also brings legal and ethical risks, such as the authenticity of generated content, intellectual property infringement, and privacy leakage. The dissertation first discusses the subjective status of virtual digital anchors, and then analyzes their governance challenges in terms of data security, algorithmic bias, and intellectual property rights. In order to effectively address these challenges, the paper proposes that AI digital person live broadcasting norms should be formulated and improved, inclusive and prudent regulation should be implemented, hierarchical and classified regulation should be implemented and cross-domain collaborative governance should be carried out, and merchants are advised to improve the compliance system to ensure the legal and compliant development of virtual digital person live streaming bandwagon.
1. 引言
近年来，随着我国AIGC (生成式人工智能)技术的发展，各式各样的虚拟数字人日益活跃在公众视野之中。这些数字人不仅重塑了娱乐、商业、教育等诸多领域，更为数字社会的构建提供了无限可能。虚拟数字人主播作为虚拟人物在商业领域应用的重要表现，早在2001年，英国PA New Media公司就推出世界上首位虚拟电视女主播“阿娜诺娃”(Ananova)。此后，日本、美国、韩国也相继推出了各自的虚拟主播。而在我国，虚拟主播的出现最早可见于2001年天津电视台《科技周刊》节目推出的三维虚拟主持人“言东方”。特别是近两年伴随着我国电商平台的兴起，越来越多的虚拟数字人涌入直播间，开启数字人直播带货的新商业模式，如京东云言犀打造的“采销东哥”AI数字人。据《2024年中国虚拟数字人产业发展白皮书》数据显示，2023年中国虚拟人核心市场规模为205.2亿元，预计2025年将达到480.6亿元；2023年虚拟人带动周边市场规模为3334.7亿元，预计2025年为6402.7亿元。其中，被调查的企业中有超五成以上的企业使用过虚拟人技术[1]。“虚拟数字人主播”的兴起正逐步革新商业、媒体与营销，创造一个结合现实与虚拟的全新世界，为品牌营销开辟了更多的新兴场景。然而，在这一技术迅猛发展的背后，虚拟数字人直播带货也隐含着一系列法律与伦理风险，针对这些挑战，当前亟需平衡好技术发展与法律、道德、伦理的关系，打破技术壁垒，完善相关法律规制，以期推动虚拟数字人直播带货商业模式的健康发展。
2. 虚拟数字人主播的内涵及其法律地位
2.1. 虚拟数字主播的内涵及特点
对于“虚拟数字人”究竟是什么？不同的调研机构对此给出不同的定义。如中国互联网协会发布的《中国数字人发展报告(2024)》将虚拟数字人定义为“通过多种数字智能技术创建，具备人类外观形象、声音语言、肢体动作与思维功能等特征的数字智能体”[2]；中国传媒大学发布的《2024中国虚拟数字人影响力指数报告》将其定义为“通过计算机图形学、图形渲染、动作捕捉、深度学习、语音合成等技术手段创设，并具有‘人’的外观、行为、甚至思想(价值观)的可交互的虚拟形象”[3]。虚拟数字人主播作为虚拟数字人的典型应用之一，涵盖了虚拟主播、虚拟主持人及虚拟UP主三大类别，它是以大数据处理与学习、虚拟合成与分身、人机交互等AI技术为驱动，利用人工智能技术生成的虚拟人物，在直播平台上进行实时互动与内容传播的一种智媒产品。
“虚拟数字主播”作为社会数字化转型的伴生产物，蕴含着巨大的市场需求[4]。根据艾媒咨询调研数据显示，目前有超过60%的网民更加关注虚拟主播，以及虚拟代言人；有约47.50%的消费者非常看好虚拟人直播带货的前景，认为AI主播在未来将会大范围地取代真人主播成为电商直播的主流。从当前的情况来看，虚拟主播自身所携带的商业价值在全部虚拟人类型中名列前茅[5]。与传统的真人主播相比，“AI虚拟主播”具有以下几点特征：其一是在形象塑造上具有高度的自定义和多样性，不受物理限制；其二是虚拟数字人主播能持久续航，保持持续稳定的直播输出，且不受个人生理和情绪状态的影响；其三是技术运行成本低，虚拟数字人主播具有较低的长期运营成本和维护需求；其四是在技术应用上具有创新性，其能够融合多种前沿技术，拓宽直播内容和形式的可能性。这些优势使得数字人直播成为数字内容领域法的重要发展趋势，为企业和个人带来了新机遇。
2.2. AI虚拟数字人的法律主体地位探究
在大数据时代，由人工智能驱动的数字虚拟人已广泛应用于各领域，其物的特征逐渐淡化，呈现出更为鲜明的主体性，法律主体正经历着从“人可非人”到“非人可人”[6]的历史变迁。虚拟数字人作为新生事物，我国现行法律、司法解释对其属性尚未作出明确的界定。因此，对虚拟数字人是否具有独立的法律主体资格？以及能否独立承担法律责任？在实务界和理论界存在着较大的争议，下文将从实践和理论两个维度对这一问题进行探讨。
2.2.1. 实践维度：AI虚拟数字人法律主体资格的认定
从当前实践来看，目前实务界普遍认为虚拟数字人不具备成为法律主体的权利能力，因此其不享有法律所规定的姓名、名称、名誉等权利。但是以真人为原型的数字人在现实中对应的自然人，以及真人驱动型数字人背后的真人演员的人格权可能会在虚拟数字人上有所反射。例如，无锡市中级人民法院民一庭法官杜凤君认为，“虚拟主播是由技术设计出来的虚拟形象，一般不具有民事资格，更多的是具有财产属性而不是人格属性”。以2023年4月国内首例“虚拟数字人侵权案”为例，杭州互联网法院在此案中对虚拟数字人作为表演者的适格性予以否定，指出“虚拟数字人‘Ada’仅是作者进行创作的技术工具而非法律主体”，并将虚拟数字人Ada形象及其相关视频确定为著作权法保护的客体[7]。华东政法大学的王迁教授对此案也提出见解 ，认为“著作权法中的表演者必须是自然人，而不可能是机器或者人工智能。如果虚拟数字人没有投射真人的表演者，则不会产生表演权；反之，则真人是表演者，享有相应的表演者权”[8]。由此可见，在现行的法律框架下，虚拟数字人仍在“物”的属性范围，而不具备人的属性，不具备法律主体资格。
2.2.2. 理论维度：AI虚拟数字人法律主体资格的争议
理论界对于虚拟数字人是否具有法律主体资格的问题，主要存在两种不同的主张。少数学者主张应当赋予虚拟数字人法律主体地位，持肯定说的学者主要有两种观点“法律人格说”和“法律拟制主体说”。他们认为，随着元宇宙和人工智能技术的发展，虚拟数字人已逐渐成为现实世界中不可忽视的存在，其在外观、行为、思想等方面越来越接近真实人类，甚至在某些方面已经超越了人类。未来，当虚拟数字人的“大脑”可以与人类相媲美时，赋予其人格将成为一种必然的历史趋势。如上海大学经济学院的巫景飞教授在其《赋予数字人法律人格，拥抱元宇宙时代到来》一文中指出，“应借鉴公司法人(虚拟人)制度，赋予数字人法律人格”[9]。然而，多数学者则对此持反对意见，他们主要从“工具说”“软件代理说”“人工类人格说”的角度和立场佐证其观点。他们认为虚拟数字人本质上仍为人类进行生产的工具和手段，是人类活动的产物，缺乏与周围环境产生交互影响的内在感知能力，无法产生与自然人类似的复杂行为能力，如内心观察、认识和判断的选择过程，同时也缺少自然人主体在承担责任时所必需的道德观念、良心以及伦理意识等内在要素[10]。鉴于其不具备自然人的生物属性和社会属性，因此不应将虚拟数字人视为法律意义上的主体。
对比上述两种不同的主张，笔者认为，虚拟数字人主播本质上是由预设算法和程序控制，其“行为”和“决策”均基于数据分析和逻辑运算，不像自然人那样具有真正的意志自由，也无法向自然人那样感受道德和法律约束、承担法律责任。因此，在现阶段，维持虚拟数字人主播作为法律客体的地位，通过现有的法律体系对其进行规范和调整，或许是一个更为稳妥和可行的选择。
3. 电商领域适用AI数字人直播带货的法律风险
在当前，随着虚拟直播技术的快速发展，AI数字人直播作为一种新型娱乐形式，正凭借着其自身优势逐步崭露头角，特别是在日本、韩国和中国等国家，这一直播模式深受观众喜爱，被广泛应用于各大电商和娱乐平台，成为直播领域的新风口。虚拟主播在为电子商务行业带来便利的同时，其所引发的各种法律问题和监管挑战也逐渐显现。
3.1. AI虚拟主播侵权风险
在后疫情时代，互联网产业模式持续创新，虚拟现实等新技术也在不断迭代发展，虚拟主播作为一种新兴的数字娱乐形式，由于其融合了各种元素，包括虚拟形象、人物形象、知识库等，因此存在着侵犯他人知识产权的潜在风险。在实践中，虚拟人主播在直播的过程中常出现未经许可演唱、表演或展示他人作品，构成著作权侵权。例如侵犯美术作品(如奥特曼形象)、音乐作品、舞蹈作品(如网易旗下手游《绝对演绎》曾指出A-SOUL旗下虚拟人乃琳Queen在生日会直播时未经授权翻跳了其合作舞蹈“洛阳旧事”)、以及视听作品(如游戏直播) [11]。以国内知名虚拟主播“小V”为例，该主播在一次直播中未经授权使用热门歌手的原创歌曲作为背景音乐，并模仿知名舞蹈家的经典舞步，迅速引发原作者和公众的广泛关注，不仅侵犯了音乐作品的著作权和舞蹈作品的改编权，还迫使原作者通过法律途径维权，要求“小V”及其直播平台承担侵权责任并公开道歉。此外，虚拟主播在直播过程中可能会出现通过模仿或抄袭知名虚拟主播的形象、风格或内容来吸引流量，引发不正当竞争，损害其他主播权益并扰乱市场秩序。
3.2. AI虚拟主播直播内容存在违规风险
AI虚拟数字人直播内容的违规风险不容忽视，特别是在虚假宣传方面。一些不法分子或不良商家可能会利用AI技术，通过虚拟主播进行夸大其词的商品推广或服务宣传，误导消费者做出购买决策，从而获取不正当利益。这种行为不仅严重损害了消费者的知情权和公平交易权，也破坏了市场的公平竞争秩序。
此外，在直播过程中，真人主播因发言不当引发舆论危机的情况屡见不鲜，而AI虚拟主播其答复尽管看似中立客观，但同样可能也会陷入此困境。AI数字人之所以能够与观众实现智能互动，其背后依赖的是算法对大数据的收集和处理。然而，这些数据样本并非都完全纯净，可能隐含着社会中早已存在的结构性偏见。如果AI数字人在没有进行有效筛选的情况下，直接复制引用这些数据来答复观众，那么其回复内容很可能隐含着如性别歧视、年龄歧视、地域歧视等偏见。而当这些偏见性言论通过虚拟数字人在不同的场景中表现出来，极易激起公众强烈抵触情绪，这不仅会损害到AI数字人的公众形象，更可能给依赖其进行营销推广的商家带来不可估量的经济损失和声誉损害。更为严重的是，如果AI数字人的直播内容违反了我国有关信息服务和网络安全的法律要求，特别是直接违反了《网络信息内容生态治理规定》的禁止性规范，如传播谣言、散布淫秽色情内容、进行人身攻击或恶意诋毁等，将可能引发危害互联网管理秩序的违法、犯罪行为。这些行为不仅损害了网络空间的健康，还可能对社会稳定和公共安全造成威胁。
3.3. 其他法律风险
除上述提及的风险外，在数字人直播中还可能会涉及到“中之人”(即操控AI数字人进行直播的幕后人员)的合同性质及账号归属问题。一方面，“中之人”与AI数字人的制作或运营公司之间的合同关系复杂多样，可能涵盖雇佣、劳务、委托等多种法律关系，这不仅增加了合同履行的复杂性，也容易导致双方对合同条款理解不一，进而产生法律纠纷。特别是在合同解除、违约责任等方面，双方往往难以达成一致，容易引发激烈的争执。另一方面，关于直播账号的归属问题同样棘手。直播账号作为直播活动的重要载体，其归属直接关系到直播收益、知识产权及账号控制权的分配。然而，在AI数字人直播带货的模式下，直播账号的实际运营和操控往往由“中之人”完成，这使得账号归属问题更加复杂，容易引发双方之间的争议。因此，在电商领域应用AI数字人直播带货时，必须高度重视并妥善解决涉及“中之人”的合同性质及账号归属等法律问题，以确保直播业务的合规性、稳定性和可持续发展，避免潜在的法律风险对业务造成不必要的损害。
4. 虚拟数字人直播风险的应对策略
4.1. 制定AI数字人直播规范指引，明确相关主体责任
为规避虚拟数字人直播带来的风险，引导电商行业规范经营，立法机关应当积极作为，加快制定专门的AI数字人直播规范指引。当前各地市场监管部门已纷纷出台相关政策。例如，浙江省市场监管局率先发布了《网络直播营销行为规范指引》，对AI数字人直播提出了明确要求，有效应对了人工智能时代直播营销的新问题，防止了数字人技术、深度伪造技术的无序滥用。江苏省等地也紧随其后，推出了类似规范，强化了平台责任，提高了经营者守法经营意识。
在制定全国性的AI数字人直播规范指引时，应明确虚拟数字人直播的法律地位、准入条件及运营规范，确保直播内容合法合规。同时，要充分考虑其特殊性，明确设计者、开发者、运营者及直播平台等相关主体的责任。在知识产权与个人权益保护方面，指引需提供明确且具有操作性的保护措施，防止因虚拟数字人直播而侵犯他人的合法权益，维护权利人的正当利益。同时，对于虚假宣传与误导消费者的行为，指引必须采取零容忍的态度，明确禁止任何形式的虚假宣传和误导行为，并设定相应的法律责任和处罚措施，以维护市场秩序，保护消费者的知情权和公平交易权。
4.2. 贯彻包容审慎、以人为本监管的基本准则
根据《生成式人工智能服务管理暂行办法》第三条的明确规定：“国家坚持发展和安全并重、促进创新和依法治理相结合的原则，采取有效措施鼓励生成式 人工智能创新发展，对生成式人工智能服务实行包容审慎和分类分级监管。”[12]这一条款为我国生成式人工智能的行政法规制提供了明确的指导方向和实践路径。行政部门在对AI虚拟数字人直播进行监管时应落实上述要求，首先应坚守包容审慎的原则，在鼓励技术创新、推动技术发展的同时，确保技术应用的合法性和安全性，实现发展与安全的双重保障。这意味着行政机关需要在鼓励创新的同时，保持对潜在风险的警觉，确保监管措施既不过于严苛，也不失之于宽松，实现监管与创新的良性互动。为了实现这一目标，行政机关应密切关注虚拟人直播技术的最新进展，及时调整和完善监管措施，确保监管的有效性和针对性。
除此之外，在对虚拟人直播带货进行监管中，为了确保科技的发展始终服务于人类社会的整体利益，还需坚持以人为本的思想，加强科技伦理的建设。在生成式人工智能的场景下，一切生成式人工智能的研发与应用都应当以人类为中心[13]。以人为本原则要求行政机关在制度构建和行政监管过程中，确认并保护人类对生成式人工智能模型的最终控制权，确保公众对人工智能发展的知情权。这意味着行政机关在制定相关政策和法规时，应充分考虑公众的意见和利益，确保虚拟直播技术的发展与人类社会的价值观和目标相一致，实现技术与社会的和谐发展。此外，以人为本原则还要求行政机关关注该技术可能带来的社会伦理风险，如隐私泄露、算法歧视等，并采取相应的措施予以防范和治理。例如，可以建立严格的数据保护机制，确保个人隐私不被侵犯，同时，加强对算法公平性的监管，防止算法歧视现象的发生。
4.3. 实施分级分类监管与跨领域协同治理
为了科学合理地监管虚拟数字人直播带货这一生成式人工智能的具体应用，建立健全分级分类监管制度并形成强大的行政监管合力至关重要。因此，我们需要通过分级分类的制度设计，对虚拟数字人直播的技术应用进行科学合理的监管，以确保其健康有序的发展。建立健全分级分类制度，意味着我们需要根据虚拟数字人在直播带货中的不同应用场景、技术成熟度及潜在风险等因素进行信息分类分级监管，并针对不同类别制定相应的监管措施。低风险领域将鼓励创新和发展，中风险领域则加强日常监管和定期检查，而高风险领域则需实施更为严格的监管措施。这样一来，我们可以更加有针对性对虚拟数字人直播带货进行监管，避免过度监管或监管不足的情况出现。与此同时，加强司法与行政监管协同，建立跨部门协作机制，定期发布典型案例与裁判规则，实现信息共享和协同监管，为行业提供明确指引。例如，苏州互联网法庭通过首案判决，确立了“身份同一性”的司法判断标准，为后续立法积累了实践经验。此外，还应推动行业自律，提高公众认知，鼓励公众参与监管，通过综合施策，确保虚拟数字人直播技术的健康有序发展，为电商行业注入新的活力。
4.4. 规避合同风险、完善内部合规体系
对于虚拟数字人直播引发的一系列技术伦理问题，应当从数字人主播定制源头进行防范治理，商家在定制数字人时应对其所潜藏的风险尽到必要的注意义务，完善其内部合规体系。为此，商家应规避合同风险，在与定制公司签约时，应确保合同经过律师、法务等专业人员的严格审核。合同内容需提前明确责任划分标准，包括虚拟数字人的使用权限、知识产权归属、数据保密条款、违约责任等关键条款。通过专业的法律审核，可以确保商家在出现纠纷时能够有据可依，有效排除自身风险，维护自身合法权益。除此之外，商家还应完善内部合规体系，建立健全的内容审查机制和应急预案。内容审查机制应涵盖虚拟数字人直播带货的所有环节，包括直播脚本的审核、商品信息的真实性验证、广告内容的合规性检查等，以确保直播内容符合相关法律法规和平台规则。同时，商家还应制定详细的应急预案，以应对可能出现的突发情况，如技术故障、消费者投诉、舆论危机等。通过提前准备和演练，商家可以在危机发生时迅速响应，减少损失，维护品牌形象。
5. 结语
在探讨虚拟数字人直播带货的治理挑战和应对举措中，我们深刻认识到这一新兴技术的双刃剑特性。虚拟直播技术的迅猛发展无疑为众多领域带来了前所未有的创新机遇，然而，其潜在的数据安全、算法偏见及知识产权等风险也同样不容忽视。因此，从立法和监管层面平衡技术创新与风险防控，其意义显得尤为重大。通过制定AI数字人直播规范指引、贯彻包容审慎监管准则、实施分级分类监管与跨领域协同治理，以及商家规避合同风险、完善内部合规体系等多措并举，我们可以有效应对虚拟主播直播带货所带来的治理挑战，确保其在合法合规的轨道上稳健前行。