【编者按】据中国数字经济百人会近日统计,2021年数字人相关企业融资共有2843起,融资金额达2540亿元。8月初,北京市发布促进数字人产业创新发展行动计划,支持数字人产业发展。虚拟数字人赛道正在享受风险投资与政策双重支持。
回顾过往网络技术创新历程,无不验证“唯有规范,才能健康发展”。《互联网法律评论》今日获授权转发上海政法学院教授、反洗钱与金融安全研究中心主任王铼团队一篇关于数字人合规分析文章,以飨读者。
文章提出,从监管视角看,数字人产业最大的难题在于如何实现链上身份与链下身份的穿透映射,否则将陷入无从追责的窘境;从发展的角度看,重要的议题则是如何规范技术和应用以谋求合规运营。
一 元宇宙中的数字人
普遍认为,元宇宙中数字人将有两种不同形态:第一种是自然人在虚拟空间中的“数字分身”,就像电影《头号玩家》中,自然人依托智能穿戴设备以“另一个自己”在虚拟空间中进行各种活动,这种数字人与自然人之间存在着身份同一的关联;第二种是技术公司在虚拟空间中根据算法、渲染等技术合成出的全新的“数字人”,如创壹视频在抖音平台上直接创设的虚拟人——美妆主播柳夜熙[2],属于纯粹的AI产物,和自然人之间不存在身份同一的关联。据中银证券对虚拟数字人的应用场景市场规模预期[3],至2030年,整个虚拟数字人市场规模将达到2703亿元。或许电影《头号玩家》中所描绘的自然人通过数字分身参与虚拟世界的社交、娱乐和商业交易这一场景不会太遥远。
(一)数字人的内在特征
数字人,也称虚拟形象,是指通过使用如图形渲染、动作捕捉、人工智能、深度学习、语音合成等计算机手段在非物理世界中,创造出具有数字化外观的虚拟人物,具有多种人类特征,如外貌特征、人类表演能力、人类交互能力等[4]。
(二)数字人的分类现状
随着人工智能、虚拟现实等数字人所涉及的底层技术手段的不断发展,数字人已经拓展出多种用途及种类。除前文所述分为自然人在链上的“数字分身”、由计算机技术生成的虚拟人以外,根据不同的划分标准,数字人可进一步分为七种不同的类型[5]:第一种是根据行业应用进行划分,可分为身份型和服务型两种类型。身份型虚拟人强调其身份性,根据是否对应特定自然人,可进⼀步分为两类:⼀类是线下特定自然人在虚拟世界的“分身”,如中国移动咪咕通过自研技术为谷爱凌打造的数智分身——“Meet GU”[6];另⼀类则不对应现实世界中的特定自然人,如“初音未来”、“洛天依”等虚拟偶像。服务型虚拟人强调其功能性,旨在通过技术手段构建既有真实感又有关怀感,能够达到替代真人服务为目的的虚拟人,如搜狗与新华社联合发布的智能主持人、虚拟教师、虚拟AI助手等。第二种是根据技术划分,分为算法驱动型及真人驱动型。其中算法驱动型至通过AI实时计算或“捏脸”技术创造的虚拟人;而真人驱动型指通过对自然人动作捕捉后通过算法获得的虚拟人。第三种为根据商业模式划分,分为IP类和非IP类。其中IP类为以前文所述柳夜熙、Imma等KOL型、歌舞型、品牌型等具有一定IP的虚拟人;而非IP类则是指为达到学术研究目的、实现特定功能如人物陪伴等创作的虚拟人。第四种是按照结构组成划分,分为数字型和全息型,划分依据在于用户观看虚拟人的途径是通过线上观看还是能够现场裸眼观看而区分。第五种是按照角色人设划分,这里可分为完美偶像型、前沿实验型、真实生活型、智能助手型、行业专家型等。第六种是按照设计风格进行划分。可分为二次元动漫化、类人渲染以及超写实等。第七种是根据视觉维度进行划分,这里可分为2D型和3D型两类。本文所探讨的数字人,是指链下自然人通过多技术手段,依靠技术设备呈现,具有人的外观、动作和语音等特征,以数字形式在虚拟世界“分身”而成的虚拟形象。
(三)链上身份与链下身份穿透映射的必要性
正如上文所述,链下自然人参与元宇宙的主要途径在于通过多技术手段以“数字分身”形式畅游元宇宙虚拟世界。元宇宙同其他新兴技术一样,在充满机遇的同时也对人性的黑暗敞开了大门[7],正因如此,对元宇宙的监管重点在于通过对链下的实际行为人进行惩戒和追责,进而达到治理元宇宙中可能存在的侵权、侵害甚至犯罪行为的目的。在当前web2.0时代,已存在将侵害虚拟人格转化为对其背后自然人在现实中合法权利之侵害的司法观点,在“杨夏青与北京百度网讯科技有限公司名誉权纠纷案”[8]中,法院认定:“网络用户采用注册虚拟网名的方式,以虚拟人格依法参与网络空间活动,可以为现实中的网络用户本人带来精神层面的愉悦感,有时也可以为其创造实实在在的物质财富,因此,在网络空间对网络用户虚拟人格的侵害亦能转化为对网络用户本人在现实中人身权利、财产权利等合法权益的侵害。”元宇宙时代,该等司法观点或许可以延伸适用:在数字人相关产业技术的加持下,链下自然人通过“数字分身”依法依规参与到虚拟世界的活动中,会比现今技术更大程度地为线下自然人带来获得感、体验感、愉悦感,对于数字人的侵害极有可能对线下自然人造成严重的实际影响和侵害,此时则需要穿透“数字分身”,通过链上身份与链下身份的映射,实现监管部门履行监管职责以及被侵权方主张相应法律责任的目的。
二 技术层面实现链上身份与链下身份穿透映射的探讨
(一)数字人的创设技术
数字人的发展历史,亦是CG、动作捕捉、人工智能合成等技术的发展史和变迁史。20世纪80年代,数字人开始步入现实世界,受限于技术,当时的数字人制作以手绘为主;21世纪初,随着CG、动捕等技术的逐步发展,数字人相关技术开始在影视领域逐渐普及,2007年初音未来的诞生标志着虚拟偶像行业被广泛认可并接受;近年来,随着深度学习算法的不断突破,数字人日渐朝智能化、精细化、多样化进行发展。在数字人的整个产业链中,生成主要分为建模、驱动、渲染三大环节,其中数字人的建模生成奠定了未来使用的基础,是最为核心且困难的环节。目前数字人的建模生成主要分为三种,按照人工参与程度的高低,依次为纯人工建模、借助采集设备进行建模、以人工智能进行建模;同时涉及到相关的软硬件,包括建模软件、驱动软件、渲染引擎、拍摄采集设备、光学器件、显示设备等[9]。随着AI和深度学习算法的出现,数字人的制作环节被大大简化,在《2020年数字人发展白皮书》中,在数字人通用系统框架的基础上提炼出五横两纵的技术架构。[10]“五横”是指用于数字人制作、交互的五大技术模块,即人物生成、人物表达、合成显示、识别感知以及分析决策模块。其中,人物表达包括语音生成和动画生成,动画生成则包含驱动(动作生成)和渲染两大部分。“两纵”是指2D、3D数字人,3D数字人需要额外使用三维建模技术生成数字形象,信息维度增加,所需的计算量更大。
(二)何为数字人与自然人的身份映射
“身份映射”一词源于计算机技术领域,是指将一个领域的身份联合到另一个领域的等效身份,对于元宇宙中链上身份与链下身份的映射可参考“同一认定”理论。“同一认定”的概念源自犯罪侦查领域,原指具有专门知识的人或了解客体特征的人,通过检验、比较客体特征而对案件中的人或物是否同⼀所作出的判断。根据客体的不同,同⼀认定可以分为人身同⼀认定、物体同⼀认定。延伸至元宇宙之中,即指对线下自然人与线上数字人是否具有身份同一性进行认定,该认定又称为“个体识别”、“人身识别”、“身份识别”[11]。借鉴“同一认定”原理进行身份映射,能够解决判断链上客体与链下客体是否一致的问题,这里的“同一”是指线上数字人的动作、行为、指令均由线下自然人发出,线下自然人可以操纵线上数字人,同时虚拟世界中对数字人的毁誉褒贬、权益侵害能够直接及于对应的自然人。
(三)技术层面实现身份映射的参考路径
实现数字人与自然人的同一认定,可主要从以下三个方面层层递进、共同判断:一是直接指向类证据,如数字人所属账户是否为线下自然人实名注册、是否通过身份验证等;二是间接指向类证据,例如通过登录所用电子设备的IP地址、Mac地址以及自然人所处空间进行结合认定;三是行为痕迹类特征,如根据数字人的外貌、性别、年龄、职业、地域、姿态、习惯等因素结合线下自然人的该类特征,不断缩小范围直至具向于一人。结合数字人的技术应用情况,可尝试从以下三点进行探索:
1. 智能穿戴设备作为媒介的同一认定
元宇宙时代,智能穿戴设备将毫无疑问地成为自然人与元宇宙的媒介桥梁,此时可以参考web2.0时代的以电子设备为中介进行线上线下的同⼀认定。即通过对线下自然人所使用的穿戴式设备的硬件系统如计算终端、网络设备、存储介质等进行认证、访问、收集,以及对线下自然人所使用的操作系统等软件系统的特征信息进行认定线下自然人(行为人)的方法,分为外观信息认定法、系统信息认定法和地址信息认定法。[12]以智能穿戴设备作为媒介的同⼀认定,有利于对已知自然人与线上数字人进行身份穿透,能够直观解决线上数字人权益受到侵犯需要确定线下自然人,由自然人代数字人行使权益这一问题,因为智能穿戴设备作为一种媒介,既可以通过其实体认定为线下社会的一部分,又因其能够使线下自然人进入虚拟空间,被认为是网络信息环境的组成部分。但针对数字人的权益遭到侵犯、数字资产受到贬损的情况,对侵权行为“人”使用这一认定方式就显得力不从心,其主要原因在于:该方法必须依赖于对行为人智能穿戴设备电子设备的审查,而一般而言侵权行为“人”的线下自然人极有可能并不在一个国家,此时由于所锚定电子设备、电子数据的缺位,造成该方法无法运用。正因如此,该方法的适用范围受到极大限制。
2. 数据信息作为媒介的同一认定[13]
将数字信息作为媒介进行线上线下的同一认定能够突破对线下智能穿戴设备作为媒介的依赖,对于锁定虚拟数字侵权行为人、对数字行为人与线下自然人的同一认定大有裨益。具体说来,所谓通过数据信息作为媒介进行同一认定的行为,在于实现分析虚拟数字行为人在元宇宙中生成的各种代码指令、调用的相关应用程序等各类点数据信息的目的。该认定方式不仅可以采集智能穿戴设备、计算设备上的生成的电子数据,同时也可以依靠平台服务器、被侵权人的智能穿戴设备、计算设备上的数据进行分析。依托虚拟空间服务进行虚拟空间数据搜索和专库搜索进行数据挖掘和分析,收集一切合法情况下可收集的数据,运用特定的数学模型和分析方法对海量数据进行计算,继而进行如数据碰撞、数据挖掘、数据画像、热点分析、犯罪网络分析等在内的数据综合处理分析,处理后得出行为人信息,完成线上线下身份同一性认定。
3. 行为痕迹作为媒介的同一认定
以行为痕迹为媒介的同⼀认定,其实可理解为犯罪痕迹学在虚拟社会与现实社会中的融合。是通过对虚拟空间行为以及现实空间行为的综合评判以达到对虚拟数字行为人与线下自然人的同一认定。所进行认定的行为痕迹既可以来自行为人本身,又可以来自于其所用的电子设备,也可以来自元宇宙平台方。例如,鉴于元宇宙中虚拟数字行为人属于线下自然人的“分身”,因此步态信息作为传统犯罪侦查学的关键特征信息,在元宇宙中仍然可以发挥着通过其特定性和唯一性锁定用户的作用;虚拟数字行为人的账户在连续时间内由同一IP地址登录,亦可认为是行为痕迹在时间与空间上的交叉关联。因此,在元宇宙时代,要突破电子痕迹与传统痕迹的藩篱,重视虚拟空间的电子痕迹以及物理空间的传统证据,将两大空间的证据进行信息抽象、综合利用,研判、分析虚拟空间的电子痕迹与传统证据蕴含的特征信息,进行有效的线上线下的同一认定。
三 数字人平台层面的合规发展启示
(一)我国关于数字人相关产业的监管现状
数字人融合了人工智能、深度合成、虚拟现实等新技术,覆盖了基础软硬件层、平台层、应用层等数字产业链,其所触及的行业场景众多,相应所涉及的法律领域也较为广泛。目前我国在法律法规层面尚未针对数字人建立监管体系,在创设运营、发展模式、商业应用等方面的监管要求亦有待明确,但随着数字人产业生态的发展,中央及各地政府相继出台相关政策促进创新发展,本文梳理了近三年来国家层面的主要文件,具体列示如下:
除宏观政策的支持和引导之外,我国互联网等相关行业的监管部门也在逐步规范技术层面的合规监管,对于数字人平台层面的运营主体而言,需要重点关注的规范性文件包括:
(二)司法实践的探索
在司法实践方面,已有关于数字人相关技术侵权问题的法院判例出现。2022年4月,最高人民法院公布“民法典颁布后人格权司法保护典型民事案例”,其中第四个案例“AI陪伴”软件侵害人格权案涉及到人工智能软件擅自使用自然人形象创设虚拟人物构成侵权的问题。在该案中,北京互联网法院经审理认为:“案涉软件中,用户使用原告的姓名、肖像创设虚拟人物,制作互动素材,将原告的姓名、肖像、人格特点等综合而成的整体形象投射到AI角色上,该AI角色形成了原告的虚拟形象,被告的行为属于对包含了原告肖像、姓名的整体人格形象的使用。同时,用户可以与该AI角色设定身份关系、设定任意相互称谓、通过制作素材‘调教’角色,从而形成与原告真实互动的体验,被告对于案件的上述功能设置还涉及自然人的人格自由和人格尊严。虽然具体图文由用户上传,但被告的产品设计和对算法的应用实际上鼓励、组织了用户的上传行为,直接决定了软件核心功能的实现,被告不再只是中立的技术服务提供者,应作为内容服务提供者承担侵权责任。因此,被告未经同意使用原告姓名、肖像,设定涉及原告人格自由和人格尊严的系统功能,构成对原告姓名权、肖像权、一般人格权的侵害。遂判决被告向原告赔礼道歉、赔偿损失。”[14]
该案是对虚拟现实新技术和算法应用评价标准的有益探索,在当前法律尚无明确规定的情况下,这起案例对后续的司法实践具有一定的典型示范意义。随着科技的发展,数字人承载自然人人格要素的延伸应用将会日益增多,作为数字人平台层面的运营主体,需要重视数字人与自然人在同一认定方面可能存在的合法权益侵害之风险。
(三)合规发展的建议
数字人及相关产业尚处于初期发展阶段,数字人平台层面的运营主体如何合规发展是一个需要持续探索的问题,笔者基于目前的监管框架,结合现下数字人产业链的实际情况,浅析合规要点如下:
1. 资质合规
数字人的创设涉及到人工智能、交互技术、渲染技术、语音识别、区块链等技术,数字人平台层面的运营主体应当根据其平台性质及业务范围获取相应的资质或办理登记、备案手续,通常可能涉及的主要资质和许可义务如下:
(1)办理互联网信息服务算法备案并公示信息链接
依据《互联网信息服务算法推荐管理规定》第二十四条等相关规定,具有舆论属性或者社会动员能力的算法推荐服务提供者应当在提供服务之日起十个工作日内通过互联网信息服务算法备案系统填报服务提供者的名称、服务形式、应用领域、算法类型、算法自评估报告、拟公示内容等信息,履行备案手续。完成备案的算法推荐服务提供者应当在其对外提供服务的网站、应用程序等的显著位置标明其备案编号并提供公示信息链接。
(2)进行区块链安全评估并办理区块链信息服务备案
依据《区块链信息服务管理规定》第九条等相关规定,区块链信息服务提供者开发上线新产品、新应用、新功能的,应当按照有关规定报国家和省、自治区、直辖市互联网信息办公室进行安全评估。区块链信息服务提供者应当在提供服务之日起十个工作日内通过国家互联网信息办公室区块链信息服务备案管理系统填报服务提供者的名称、服务类别、服务形式、应用领域、服务器地址等信息,履行备案手续。
(3)获取互联网信息服务增值电信业务经营许可证并办理登记手续
依据《互联网信息服务管理办法》第七条等相关规定,从事经营性互联网信息服务,应当向省、自治区、直辖市电信管理机构或者国务院信息产业主管部门申请办理互联网信息服务增值电信业务经营许可证(以下简称经营许可证)。申请人取得经营许可证后,应当持经营许可证向企业登记机关办理登记手续。
(4)获取信息网络传播视听节目许可证或履行备案手续
依据《互联网视听节目服务管理规定》第七条等相关规定,从事互联网视听节目服务,应当依照本规定取得广播电影电视主管部门颁发的《信息网络传播视听节目许可证》或履行备案手续。
(5)获取网络文化经营许可证
依据《互联网文化管理暂行规定》第八条等相关规定,申请从事经营性互联网文化活动,应当向所在地省、自治区、直辖市人民政府文化行政部门提出申请,由省、自治区、直辖市人民政府文化行政部门审核批准。
(6)办理网络安全等级保护备案
依据《中华人民共和国网络安全法》第二十一条等相关规定,网络运营者应当按照网络安全等级保护制度的要求,履行网络安全保护义务,保障网络免受干扰、破坏或者未经授权的访问,防止网络数据泄露或者被窃取、篡改。
2. 技术合规
中国信息通信研究院(以下简称“中国信通院”)云计算与大数据研究所牵头制定的关于数字人的两项国际标准——ITU-T F.748.15 “Framework and metrics for digital human application system”(数字人应用系统基础框架和评测指标)和ITU-T F.748.14 “Requirements and evaluation methods of non-interactive 2D real-person digital human application system”(非交互式2D真人形象类数字人应用系统指标要求和评估方法)即将于近期发布。可以预见,该两项国际标准对我国未来数字人的国家标准制定具有较强的指导意义,亦对数字人平台层面的运营主体在数字人的应用系统研发及技术评估方面具有较高的参考价值。[15]
3. 运营合规
《互联网信息服务深度合成管理规定(征求意见稿)》对以深度学习、虚拟现实为代表的生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术的提供者和使用者提出了较为明确的监管要求,对数字人平台层面运营主体的合规运营具有一定的指引作用。结合该规定的相关内容,从事前预防、事中管理、事后处理三个维度梳理出合规要点,具体如下:
四 结语
本文撰写之际,恰逢北京市经济和信息化局印发《北京市促进数字人产业创新发展行动计划(2022-2025年)》,可以预见,以数字人为代表的互联网3.0相关产业将会在文旅、金融、政务等领域全面开花。随着数字技术的进步和应用场景的创新,数字人行业的监管体系也将面临更为复杂的法律挑战,我们期待,未来能够在法律、社会规范、市场和算法等多路径的结合上,探索出更为广阔的多元规制方向。
【注释】
[1] 盒盒:《Roblox:“元宇宙第一股”什么来头?》,https://baijiahao.baidu.com/s?id=1735510953120131784&wfr=spider&for=pc,最后访问时间:2022年8月5日
[2] 央广网:《“虚拟数字人”凭“实力”出圈 如何走稳走好?》,https://baijiahao.baidu.com/s?id=1736237877698260944&wfr=spider&for=pc,最后访问时间:2022年7月31日
[3] 中银证券:《虚拟人行业深度研究》
[4] 头豹研究院:《2021年虚拟数字人行业概览系列报告(二):虚拟数字人市场需求与发展前景》;国海证券:《元宇宙系列深度报告之二:数字虚拟人——科技人文的交点,赋能产业的起点》
[5] 洞见研报:《虚拟人行业研究报告——众里寻他千百度,那“人”正在“云”深处》
[6] 网易新闻:《谷爱凌夺冠!数智分身“Meet Gu”见证冬奥会历史》,https://www.163.com/dy/article/H4OCS3I10552XGK1.html,最后访问时间:2022年7月31日
[7] 澎湃新闻:《全球数治|元宇宙的黑暗大门已开,监管部门如何设防》,https://baijiahao.baidu.com/s?id=1732969561634689792&wfr=spider&for=pc,最后访问时间:2022年8月5日。
[8] 《杨夏青与北京百度网讯科技有限公司名誉权纠纷一审民事案》,(2018)苏0102民初3400号
[9] 安信证券:《数字人的长短期展望:IP 与赋能》
[10] 中国⼈⼯智能产业发展联盟总体组和中关村数智⼈⼯智能产业联盟数字⼈⼯作委员会:《2020 年虚拟数字⼈发展⽩⽪书》
[11] 何家弘 谢君泽:《⽹络犯罪主体的同⼀认定》,载《人民检察》2020年19期
[12] 刘品新:《电子证据法》,中国人民大学出版社 2021年版
[13] 何家弘 谢君泽:《⽹络犯罪主体的同⼀认定》,载《人民检察》2020年19期
[14] 最高人民法院网站:《民法典颁布后人格权司法保护典型民事案例》,https://www.court.gov.cn/zixun-xiangqing-354261.html,最后访问时间:2022年8月3日
[15] 通信世界网:《中国信通院牵头的两项数字人国际标准发布在即》,http://www.cww.net.cn/article?id=08EF9B4D64CC47D9888AB628BD6A44D1,最后访问时间:2022年8月3日
作者:
王晨翼 环球律师事务所 律师
王思雅 环球律师事务所 律师
指导:
王铼 上海政法学院教授、反洗钱与金融安全研究中心主任
曹莹 环球律师事务所顾问
审校:王京鹤 环球律师事务所