各委员、合作机构:

2023年10月13日,国家金融监督管理总局发布《关于警惕利用AI新型技术实施诈骗的风险提示》指出,不法分子利用当前AI技术广泛应用之机,通过面部替换、语音合成等方式,仿冒他人身份实施诈骗,侵害消费者合法权益;以此提醒广大金融消费者警惕AI新型技术诈骗手段,维护个人及家庭财产安全。

当前,AI技术已成为新一轮科技革命和产业变革的重要驱动力量。 AI为元宇宙赋予创新的内容和智能的“大脑”,在元宇宙世界中扮演重要角色。对于元宇宙而言,它的构建和发展就是虚拟世界和物理世界之间的持续互动过程,这个过程包括:由实化虚、虚实交融和由虚返实,在整个过程中,AI都是最关键的驱动力量之一。

AI技术的广泛应用为社会公众提供了个性化、智能化的信息服务,也给网络诈骗带来可乘之机:不法分子利用AI新型技术实施诈骗主要有“拟声”“换脸”两种手段,通过模拟他人声音或形象骗取信任,进而诈骗钱财。此外,不法分子还可能对明星、专家、官员等音视频进行人工合成,假借其身份传播虚假消息,从而实现诈骗目的。AI新型技术诈骗具有手段迷惑性、隐蔽性较强,诈骗金额较高等特点。

中国移动通信联合会元宇宙产业工作委员会(下称“中国移联元宇宙产业委”、英文简称:CMCA-MCC)作为中国首个元宇宙组织,以及“元宇宙共识圈”的发起者和践行者,为了进一步加强元宇宙相关行业协同,在技术产品生产端和使用端最大限度的降低AI诈骗给广大金融消费者带来的损失,切实维护人民群众的经济利益,积极相应国家金融监管总局发布《关于警惕利用AI新型技术实施诈骗的风险提示》,对各委员单位、合作机构提出“三不”要求:

一、不要把“拟声”“换脸”等合成技术泄露或者非法出售给未经核实的个人或者单位。

“拟声”“换脸”等合成技术的一大特点即“以假乱真”,不法分子可利用此类技术轻易伪装成他人,并通过快速筛选目标人群、定制化诈骗脚本,精准实施诈骗。在技术产品的生产端设置技术准入壁垒,对于有技术合作的机构或个人严加审核。

二、不要为犯罪分子提供制作虚假图像、音频、视频,仿冒他人身份的犯罪“温床”。

元宇宙本身具有沉浸式、交互性等特点,很多不法分子利用这一特性,伪装成普通人潜伏在其中。元宇宙企业提供的产品,尤其是具有交互性质的平台,务必对用户注册信息、操作步骤等进行严加审核。

三、不要把元宇宙平台用户信息等数据违法出售或提供给第三方个人或机构。

泄露个人信息属于违法的。中国对于公民信息保护有很明确严苛的法律。《刑法》第二百五十三条之一违反国家有关规定,向他人出售或者提供公民个人信息,情节严重的,处三年以下有期徒刑或者拘役,并处或者单处罚金;情节特别严重的,处三年以上七年以下有期徒刑,并处罚金。违反国家有关规定,将在履行职责或者提供服务过程中获得的公民个人信息,出售或者提供给他人的,依照前款的规定从重处罚。窃取或者以其他方法非法获取公民个人信息的,依照第一款的规定处罚。单位犯前三款罪的,对单位判处罚金,并对其直接负责的主管人员和其他直接责任人员,依照各该款的规定处罚。

期待元宇宙行业相关从业机构和社会各界广泛参与,共同抵御高科技诈骗的侵害,保护消费者和从业机构的合法权益,推动净化元宇宙尤其是AI发展环境,促进AI产业规范健康发展。