近日，包头警方公布了一宗利用AI换脸技术实施电信诈骗的典型案例，福州市某科技公司法定代表人郭某在10分钟内被骗取金额430万元。这一案例在社会上引发了广泛的关注和讨论，人们担心，随着人工智能的发展，它会带来便利和创新，但也会带来巨大的风险和挑战，需要各平台和监管机构加强合作和监管，确保人工智能健康、可持续、负责任的发展。

据了解，本案中，诈骗者首先“抓取”了郭先生朋友的微信，然后利用AI合成了朋友的脸部和声音，通过视频聊天骗取了郭先生的信任。当得知朋友需要借用公司账户转账时，郭先生在没有核实钱款是否到账的情况下，将430万元转入对方提供的账户。当他发现自己被骗时，为时已晚。

随着人工智能技术的进步和普及，AI换脸、AI拟声词等技术被用于诈骗、敲诈勒索、侵权等违法行为，给公众造成严重的财产损失和精神伤害。上游新闻通过公开信息梳理了近期的AI诈骗案件。

1、一名大学生因5秒视频通话被骗3000元

据湖北省网警巡警执法官方账号显示，2022年4月，湖北省某市大学生小李（化名）通过QQ收到同学发来的消息向她借钱。对方打了五秒的视频电话，小李看到确实是我，便信心满满地转账了3000元。然而，当我在第二次转账时感到异常时，我再次拨打了对方的电话，才得知我同学的账号被盗了，而且很有可能那个视频中有人变了脸。

▲AI电话诈骗流程。图片来源/湖北省互联网警察巡视执法

据新华网报道，2021年12月，江苏省某市男子小李（化名）在网上看到一条招聘信息，并添加了对方的微信。对方自称是一家知名公司的人力资源经理，通过视频与小李进行交流。小李被告知，面试合格后，他需要支付2000元的培训费，并提供身份证、银行卡等资料。小李这么做，发现自己被骗了。原来，对方利用AI换脸技术，将自己伪装成公司真正的管理者，并利用自己在社交媒体上发布的视频进行合成。

▲识别AI换脸骗局。图片来源/湖北省互联网警察巡视执法

据央视报道，2021年11月，浙江省某市女子小陈（化名）在网上认识一名自称外籍男子，并与他发展关系。对方通过视频聊天与小晨多次互动，并承诺以后会来中国与她见面。后来，对方以各种理由向小陈要钱，并威胁说，如果他不给钱，就把他们之间的不雅视频曝光出去。小晨报警后，才发现对方利用AI换脸技术冒充真外男子，并利用网上收集的视频资料进行合成。

据上游消息透露，AI换脸的案例其实早在2018年就在美国就出现了，当时一段“奧巴馬”掐住川普的视频在美国疯传，但后来被证明是利用AI换脸技术伪造的。该视频的制片人表示，该视频的目的是警告公众注意深度伪造视频的危险。

据报道，同样在美国，一名母亲接到了一个自称是“绑架者”的人打来的诈骗电话，该人声称绑架了她15岁的女儿，并使用合成声音模仿她的“呼救”，并要求支付100万美元的赎金。幸运的是，她的丈夫及时证明了她的女儿是安全的。

2、很多明星都是AI换脸直播带来的

据媒体报道，除了电信诈骗外，AI换脸技术也被用于直播领域。近日，不少网友在观看电商平台直播时发现，卖货的主播其实是一些当红女星。但仔细一看，这些带货的“明星”，都是利用AI实时换脸技术的普通主播。

据中国新闻网报道，2021年5月，“迪阿里热巴”在某电商平台进行商品直播，“迪阿里热巴”身着中式服装，在直播间推介各种产品，并与观众互动聊天。但仔细观察会发现，“迪阿里热巴”的嘴角和眼神有些不协调，“迪阿里热巴”的声音也有些不协调。

据羊城晚报报道，2021年4月，“杨幂”在某电商平台进行商品直播，“杨幂”身穿白色连衣裙，在直播间推介各种美容产品，并与观众互动。但如果你仔细观察，你会发现“杨幂”的眼神有些僵硬，“杨幂”的声音也有些嘶哑。

以上例子只是冰山一角。据专家分析，AI换脸、AI拟声词等技术背后隐藏着黑色产业链。诈骗分子通过非法渠道获取公众的个人信息、语音、视频等数据，并利用网络平台或软件提供的人工智能服务进行合成、编辑，从而为诈骗、敲诈勒索制造逼真的假象。对此，平安民县政府事务账号曾发文，总结了近期发生的几类AI诈骗行为：

语音合成：诈骗者提取某人的语音素材，利用AI技术合成语音，冒充亲戚、朋友、领导、客服等，诱使受害者转账或泄露个人信息。

AI换脸：诈骗者利用AI技术，通过捕捉或收集某人的面部视频片段，制造视频聊天的幻觉，欺骗受害者的信任和金钱。

AI程序筛选受害者：诈骗者利用AI分析公众在互联网上发布的各种信息，根据要实施的骗局筛选人员，并在短时间内制作定制化的欺诈脚本，进行精准的欺诈。

3. 将

应对AI诈骗的能力有待提高

为了应对AI造假愈演愈烈的态势，有媒体表示，有三项能力有待提升。

个人信息保护意识和能力：个人信息泄露是精准诈骗的根源，诈骗者利用窃取或收集的个人信息，冒充熟人或权威人士的声音和面孔，进行诱导或威胁。因此，我们应妥善保管个人信息，包括人像视频、证件照、财务状况等，不要随意向陌生人透露或授权。在使用社交平台时，要注意设置隐私权限，避免个人信息被滥用或泄露。

▲AI换脸技术展示。

识别和阻止虚假信息的能力：人工智能技术可以产生逼真的虚假信息，如语音合成、人工智能换脸、人工智能写作等，这些信息可能被用来欺骗、误导或操纵公众。因此，我们应该更多地了解预防欺诈的知识，提高我们辨别真假的能力。当接到陌生的电话或视频时，要保持警惕，不要相信这个人的身份和言语。在转账之前，您应该验证您的身份，例如打电话询问，或使用对方常用的微信来验证信息。

技术预防和监管能力：人工智能技术的开发和应用需要在法律、法规和道德准则的综合作用下向善发展。监管部门应设立专门的人工智能安全机构，制定人工智能标准，对人工智能技术进行管理和监督，对人工智能技术在不同领域的应用进行监管。同时，科技公司应加强数据合规，在AI设计中嵌入个人信息保护机制，并采取技术措施和管理制度，保障个人信息安全。社交媒体平台要建立健全违法、不良信息识别和拦截机制，及时配合公安机关打击人工智能诈骗。

更多新闻：

什么是AI换脸技术

AI换脸技术是一种利用人工智能和计算机视觉技术，将一个人脸图像的特征和表情转换为另一个人脸图像，以实现换脸效果的技术。主要原则如下：

首先，需要人脸检测算法来识别人脸在图像或视频中的位置，通常使用基于卷积神经网络 （CNN） 的算法。

然后，需要一种特征提取算法来提取人脸的特征向量，包括面部形状、纹理和颜色等信息，通常使用基于CNN的算法。

接下来，使用关键点定位算法来确定关键点在面部的位置，例如眼睛、鼻子和嘴巴。

然后，使用变换矩阵计算算法计算变换矩阵，将源图像中的人脸转换为与目标图像中的人脸相同的姿势和表情。

最后，需要使用图像合成算法将变换后的源图像与目标图像进行融合，以生成换脸后得到的图像或视频，通常使用图像融合、纹理映射和光照调整等技术。

上游新闻综合来自新华网、央视、羊城晚报、每日经济新闻、中国产业网、澎湃新闻等。 图片来源/网络编辑：向家清 主编 谢平 评论 廖爽

更多 |更多 |新品 |气味