在热播剧《猎罪图鉴》中，有一集讲述了犯罪分子利用AI换脸技术制作了一条视频发给受害者，视频中的主角是受害者的儿子，内容是让受害者再筹25万美元给他，因为他在国外的麻烦还没有解决。受害者信以为真，最终将钱款给犯罪分子汇了过去。 　　 　　电视剧中的剧情并不夸张，近年来因AI技术及其应用的普及化和泛在化，图像、视频、音频的深度合成、深度伪造现象凸显，已然成为了一种新型的违法犯罪手段。 　　 　　东南大学法学院副教授冀洋在接受民主与法制社记者采访时表示，当前社会已经被打上“网络时代”“信息时代”“数字时代”“大数据时代”“人工智能时代”等一系列技术化的新标签，技术除了提升社会效益之外，还带来了一些风险，音频、视频等合成技术滥用，对人脸、声纹、指纹等个人敏感信息保护形成挑战。 　　 　　犯罪分子如何利用AI技术进行诈骗？AI换脸换声涉及的违法犯罪类型都有哪些？公民如何进行有效防范？冀洋从专业的角度对上述问题进行了解答。 　　 　　看清“AI换脸换声”诈骗 　　 　　冀洋介绍说，AI换脸换声技术从术语上来讲被称为“深度伪造”，在中性意义上也称“深度合成”，它借助的正是人工智能的技术核心——深度学习和算法自动化。 　　 　　2022年1月28日国家互联网信息办公室公布的《互联网信息服务深度合成管理规定（征求意见稿）》也对之进行了定义：深度合成技术，是指利用以深度学习、虚拟现实为代表的生成合成类算法制作文本、图像、音频、视频、虚拟场景等信息的技术。 　　 　　“AI换脸换声的基本逻辑是通过深度学习、特定算法将目标人物的人脸、表情、声音等（源图像、源音频）‘嫁接’‘迁移’到模仿视频中，最终实现视听合成的高仿真性。”冀洋说，早期的深度合成技术在微表情、面部轮廓等方面尚存在伪造痕迹，而随着合成技术的迭代升级，合成的人脸、动作、场景融合等已呈现超高真实性，且软件成本低、合成速率高、检测鉴别难度大，一般人难以发现伪装痕迹。 　　 　　“深度合成”“深度伪造”需要事先选定一个目标人物。在最早期，被换脸者是那些影音图像遍布互联网的公众人物（如明星、知名商界人士等），其伪造场景主要是公开讲话、搞笑视频等。为了吸引流量，境内外不少网站及UP主（网络流行词，指在视频网站、论坛、FTP站点上传视频音频文件的人）都对制作、发布“换脸视频”热情高涨。 　　 　　冀洋表示，此类针对公众人物的深度伪造若纯粹出于娱乐目的，则危害性不大；而一旦涉及敏感议题、商业声誉或者淫秽、恐怖、暴力等信息，就可能直接侵害个人名誉，影响社会稳定。 　　 　　一些渠道和平台出现的泄露公民个人信息问题降低了个人图片、视频、音频等“物料”的获取难度，如身份证照片、手持身份证照片、门禁收集的人脸信息、监控设备偷拍偷录的资料、手机App获取的信息等都可被不法分子购买到，令深度合成、深度伪造的目标人物逐渐转向了普通公民。 　　 　　“当被修过的人脸‘动起来’（换脸换声）之后，人们被误导、被欺骗甚至被诈骗的概率就陡增。”冀洋介绍，最常见的违法犯罪场景有两个：一是人脸认证如用于手机卡注册，这些手机号进入电信网络诈骗等网络黑色产业链，“换脸换声”成为网络违法犯罪的源头，此时被换脸者可能始终一无所知。二是将合成的视频、音频直接用于欺骗、敲诈目标人物或其亲友，如伪造“裸聊”视频、亲友求助视频、在线通话等，此时受害人会因后知后觉或不愿报案而遭受财产损失。 　　 　　新型诈骗本质仍是诈骗 　　 　　冀洋说，恶意的“换脸换声”最终主要被用于诈骗等财产犯罪，与其他新型电信网络犯罪一样，此类诈骗的产业化特征明显，上下游之间的联络也相对松弛，侦查和打击难度变大。 　　 　　例如，某个互联网平台收集个人信息，“料商”将这些分散的图片、视频等信息收购出售，购买者利用非法获取的个人信息筛选目标人物，之后借助AI软件换脸换声，通过拨打电话或添加新微信、QQ等方式发起短暂音视频通话，编造求助谎言等，骗取目标人物亲友转账。因AI手段的“助攻”，不仅目标对象的好友、亲戚、同事被骗，甚至亲生父母也会被骗，财物被骗之后还可能会引发其他更严重后果。 　　 　　不过冀洋也表示，这种新型诈骗仅是手段新颖，犯罪行为结构是恒定的：虚构事实、隐瞒真相——诱使对方陷入认识错误——受害人基于认识错误而处分财产——骗子获得财产、受害人遭受损失。因此，对此类诈骗犯罪的治理重点在于切断换脸换声的素材渠道，避免让被害方陷入错误认识。 　　 　　我国公民个人信息保护法、网络安全法、数据安全法对个人和平台获取、使用、处理人脸等个人信息均有所规制，而且国家互联网信息办公室等部门也专门针对“基于深度学习、虚拟现实等新技术新应用”制定《网络音视频信息服务管理规定》《互联网信息服务深度合成管理规定（征求意见稿）》，尤其对网络平台加强违法深度合成信息识别、强化深度合成信息管理处置等进行了规范，这有助于新型电信网络诈骗犯罪的源头治理。 　　 　　“换脸换声技术”的上下游行为都有可能涉及哪些犯罪？冀洋列举说，非法获取、出售人脸、声音等生物识别信息的行为涉及侵犯公民个人信息罪，非法使用人脸识别软件的行为涉及非法侵入计算机信息系统罪或提供侵入、非法控制计算机信息系统程序、工具罪等，为电信网络诈骗等犯罪开发“深度伪造”软件、提供“换脸换声”帮助等行为涉及帮助信息网络犯罪活动罪、非法利用信息网络罪等，若网络平台怠于履行安全管理义务，则可能构成拒不履行信息网络安全管理义务罪。 　　 　　提高警惕识别AI骗术 　　 　　冀洋表示，诈骗手法多样、易骗人群几乎没有年龄区分，因而防范AI换脸换声诈骗同时也是“全民反诈”的过程，需要个人、平台、行业等多元主体加强协同。 　　 　　“对于公民个人而言，防范AI换脸换声骗术的关键在于加强认知，提高防范意识。”冀洋说，首先最主要的防范方法就是，一旦遇到亲友转账请求，一定要通过不同的方式与该亲友再次沟通确认，如遇到亲友通过微信发起的短暂通话或自拍视频时，要另外选择电话或QQ等方式确认亲友信息情况，而且尽量避免社交工具即时转账。 　　 　　此外，AI换脸诈骗也会跟其他诈骗方式混合在一起，如通过AI技术“冒充公检法”诈骗、“杀猪盘”诈骗等，因而防范AI诈骗的方式都是相通的，如谨记公检法机关绝对不会通过“通缉令”“安全账户”“帮助排除犯罪嫌疑”等让公民个人转账；在网络聊天交友时，切莫沉迷网恋，对“裸聊”“投资”“转账”等非正常需求保持高度警惕。 　　 　　最后，冀洋呼吁公民要注意保护个人信息和隐私。如尽量不要安装非正常渠道的软件，在使用手机App时尽量避免使用人脸识别，在手机购物时警惕商家、平台以“全额返现”等理由收集身份信息，不接受陌生QQ、微信好友申请并设定QQ空间、朋友圈权限等。 　　 　　“总之，所有诈骗的目的只有一个——骗钱，个人防范的总原则也只有一条——对任何转账保持警惕。”冀洋说，若不小心被骗，则要及时报警，更要调整心态，且莫因“失财”而失去人生更有价值的东西。伊志律师事务所位于北京市朝阳区朝外大街乙6号朝外SOHO-C座1209，优越的地理位置，便利的交通条件，安静、专业的办公环境为需求提供方便。 电话：010-84493343 微信：18401228075 电话：18401228075