本报记者 王晓月
如今，AI换脸图片和视频成为热门话题，换脸视频触碰他人的现象屡屡引发关注。 AI换脸的背后，从传播到生产到后端的每个环节几乎都隐藏着商业经验，也存在相关的风险和麻烦。 《中国消费者报》记者对此进行了调查。
明星多次被禁止“下药”
人们常说眼见为实，但虚拟世界中的“眼见”并不一定是“信”。前段时间，“张文宏医生卖蛋白棒”的消息被很多人相信是真的。有商家利用AI换脸、语音合成等技术手段，修改张文宏的脸部和声音，并以此在直播中推销产品，引起了当事人的关注。我不得不站出来辟谣、谴责。
面对这些明目张胆的侵权行为，张文宏在接受媒体采访时表示：“类似的销售账号不止一个，而且不断变化。我已经多次向平台投诉，但这种现象仍在持续，很多消费者并不知情。”事实是这样的，尤其是不熟悉人工智能技术的老年消费者很容易相信。”
无独有偶，北京大学国家发展研究院教授李凌在2024年9月发表声明：“网络上存在大量冒充兜售医学书籍和疗法的虚假视频，其中大部分是人工合成的”情报已向警方报告。”然而记者调查发现，网络上仍然存在以李凌名义推荐图书的短视频。这声音和李灵一模一样。短视频详细介绍了某本书。购物车中的同一本书显示已售出9.7万本。短视频还附有文字“钥匙每时每刻都可以拯救生命”。
人工智能作为一项新技术，自提出以来已在多个领域得到应用。然而，利用人工智能技术实施非法犯罪的案例也不少，包括冒充名人、散布谣言、换脸诈骗、窃取隐私等。近日，微信平台宣布严厉打击“利用AI技术模仿名人进行不当营销”，已关闭209个账号。
AI换脸背后的商业经验
在互联网上，AI换脸的门槛很低。记者在“泡卡AI”APP上看到，AI换脸功能包括照片换脸和视频换脸。 VIP换脸套餐，7天会员价59元，包月VIP 99元，包年VIP 499元。产品页面显示，图片换脸“轻松将照片和人像合二为一”，视频换脸“一键替换视频中的脸部”。在MJ绘画官网，视频换脸只需要上传视频和人脸照片，AI就会将上传的人脸照片替换到视频中。为了逃避责任，不少网站在底部用小字标注“生成视频仅供学习娱乐，合成视频不得用于非法用途，违规者承担全部责任”。
记者发现，不少换脸软件需要付费才能使用。在二手交易平台上，也有人以几块钱出售AI换脸、声乐克隆等免费开源文件的安装包，并附有相关教程，付款后通过网盘发送。
为了躲避平台关键词识别，记者在二手交易平台搜索“AI换脸”，看到有多位卖家以1元左右的价格出售一键换脸。名为“网络项目工具箱”的商家于小璞在详情页介绍，“只需更换一张照片，操作简单”、“可以更换任何视频和照片，满足切换面孔的需求”。换脸仅需1.5元，10元即可购买年卡。
“早期的换脸软件一般采用机器学习模型，将图片或视频融合叠加到源图片或视频上，利用神经网络技术进行大样本学习，并与声音、表情和动作进行合成。目前的AI换脸——改变属于深度伪造AI技术的衍生应用，深度技术研究院院长张晓荣告诉中国消费者报记者，随着生成式人工智能的发展，AI技术的使用难度进一步降低，还有很多新兴应用程序和主流视频越来越受欢迎，软件中增加了类似的功能，普及率大大提高，“李鬼”的在线人数日益增多，而且越来越多。真假难辨。
北京社科院副研究员王鹏告诉记者，简单的AI换脸技术并不是很难。具有一定技术水平的团队和小公司可以依靠开源软件实现基本的AI换脸。而一些与微表情密切相关的精细化换脸，则需要一定的计算能力。因此，在直播中使用AI换脸软件的成本并不高，这也导致社交媒体和直播过程中出现不少欺诈行为，侵犯了消费者的合法权益。
应通过多种渠道进行标准化
近年来，各地利用人工智能技术直接参与犯罪的案例屡见不鲜。犯罪分子利用AI改变面孔和声音，冒充他人实施诈骗，还有人利用AI窃取他人隐私。奇安信集团发布的《2024人工智能安全报告》显示，基于人工智能的深度伪造欺诈行为在2023年将激增30倍。那么，消费者如何识别换脸漏洞并加以防范呢？
中国网络空间安全协会人工智能
安全治理专业委员会委员张博表示，AI换脸技术现在已经比较成熟，甚至可以实现视频通话中的实时换脸。虽然单凭肉眼很难辨别，但只要稍加留意，AI换脸还是有明显的缺陷的。 ，缺陷在于面部轮廓和光线。
“进行视频通话时，应仔细观察对方面部轮廓是否异常模糊，光线是否正常。”张波说，如果有必要，可以要求对方快速大幅度地抬起头、点头、转头，然后在这个过程中仔细观察。面部轮廓是否异常模糊。
张晓蓉表示，我们要像防范电信诈骗一样防范人工智能诈骗。要特别注意不要相信各种APP的视频、电话或短信，建立金融信息防火墙。
除了个人重视甄别和信息保护外，还应通过立法手段对人工智能技术的应用进行法律约束。目前，我国已颁布《网络安全法》、《互联网信息服务算法推荐管理条例》、《互联网信息服务深度综合管理条例》、《管理暂行办法》等相关法律法规。生成人工智能服务。国家网信办起草的《人工智能合成内容标注办法（征求意见稿）》现已完成征求意见。 《办法》出台后，将进一步强化对AI生成技术的约束和规范，督促服务商、网络平台承担应有的法律责任。
王鹏表示，面对每天产生的大量视频，监管难度相对较大。因此，有必要从软件的研发、应用和信息发布平台的监管等方面入手，规范人工智能技术的使用。用户需要充值才能使用换脸服务，不同的充值费用提供不同的技术权限。平台应通过后台识别用户换脸的目的、使用场景等，软件服务商或生产者也需要承担相应的监管责任。 “比如，用户在直播过程中给明星、公众人物换脸，就一定涉及侵权。”王鹏举了一个例子。