AI换脸，语音合成，假明星账号的诈骗套路

第2973期文化产业评论

以往是电话诈骗，现在从抖音到快手，从国内到国外，越来越多人依靠假扮名人的方式进行诈骗，一些人骗钱骗财还骗走了别人的感情，我们不禁要问，为什么新时代的短视频诈骗这么难控难防？

作者 | 夏盼（文化产业评论作者）

编辑 | 张小俊

来源 | 文化产业评论

正文共计3388字 | 预计阅读时间9分钟

最近”靳东”假账号诈骗中老年妇女的事情闹得沸沸扬扬，大家也渐渐关注到了短视频平台上这类集群式诈骗账号，他们假扮各类明星名人骗取粉丝钱财。

抖音上有假扮周润发、刘德华、肖战的：

QQ里有各种“明星”QQ号：

微博上也有各种山寨版林更新、王思聪：

就连国外也是不安生，推特上就曾经出现过假普京、假川普、假奥巴马：

其实就本质来说，这些账号和此前经常在电视上出现的那些欺骗中老年观众的假药假保健品广告没什么本质区别。

但是此事曝光之后，短视频平台上这些账号并没有明显减少。而且就连国外平台上这类假扮名人诈骗的账号都大有逍遥法外之势。平台也并非不想管，而是此类违规账号难发现、难监管，为什么这些骗子能够如此猖狂？

诈骗团伙：新时代下的“技术”升级

互联网每一次技术革新不仅会带来更丰富的娱乐体验，也让诈骗团伙有了更“高级”的诈骗空间，一些新技术被诈骗团伙用上后，平台短时间内很难做出准确的打击动作。

AI换脸

初级一点的诈骗账号可能只是用一张简单的P图照片来假扮明星本人，高级点的就截取明星日常生活中透露出来的一些短视频片段来伪装真人，再牛叉一点的可能就会使用到AI换脸技术了。

某些假扮明星的短视频账号就是采用了AI换脸技术，让视频都能做到以假乱真的程度。其实很多短视频APP都有往换脸这一领域尝试的趋势，今年6月份外媒报道抖音可能在尝试开发一款名为Face Swap的秘密功能，此功能允许用户将自己的脸换到明星身上。

虽然后续证明Face Swap只是一个公开的换脸工具，但越来越低的AI换脸门槛确实给诈骗团伙提供了很多便利，包括国内一度比较火爆的ZAO换脸工具，可以轻松的将视频的脸换成其他人的。

语音合成

除了图像上的高仿伪造之外，难防的还有语音合成造假，随着语音合成技术的进展，现在想要合成一段近似于某位名人的语音并不困难。

文化产业评论（ID：whcypl）了解到，目前市面上可以免费进行名人语音合成的产品多如牛毛，很多产品都可以在线生成明星主播语音包，只要将想要说的话输入即可用明星的口吻读出来，部分明星的语音效果甚至可以达到以假乱真的地步。

稍微狡猾些的诈骗者不仅会利用语音合成来以假乱真，还会在假的语音中掺杂一些明星本人的真实语音内容，这样半真半假让观众更难分辨，也让打假鉴别更难展开。

视频平台：审核难、打假难

AI换脸降低了视频造假的门槛，由于数量太多，鉴别速度和难度都非常巨大，这是目前名人造假视频难甄别的主要原因。

为了应对泛滥成灾的AI换脸造假视频，美国去年曾经成立过一只DeepFake（AI换脸）打假团队，普林斯顿计算机系讲师Shiva Kintali称，当前比较好的打假手段是区块链技术，给每一个原视频都打上唯一的印记，这样拿假视频去对比时就能直接判断真伪了。

然而这一措施存在一个巨大的短板：核实成本太高。

基于图像和语音的联合伪造会让短视频平台的内容审核变得异常艰难，因为此类视频不属于色情违规视频，依靠传统的智能检测系统也许根本查不出来。想要证实一个账号是否是明星本人的账号，需要人工找到原视频并加上标记，甚至还需要联系明星本人，核实其是否有在该平台注册账号。

能不能联系到明星本人？机器是否能检测出来这是一个伪造身份的视频？这是技术上的难点。

另外，这些视频号也不会单纯的把名字设计成和明星本人一模一样，就以靳东的诈骗账号为例，有些的名字里面直接带有靳东字样，也有些并没有。有的叫东子，有的叫东弟，还有的叫阿东。

伪造马云马化腾的账号也不少，有的叫马总，有的叫Pony马，还带着很多特殊符号，这些名字很难判断是否存在盗用身份诈骗的行为。

对观众来说，这些是比较亲切的叫法，更能加强以假乱真的效果，但是对平台的审核人员来说，这无疑大大加大了审核的难度，让假冒明星的账号更难鉴别。

而诈骗账号鉴别难，归根结底还是在短视频平台的内容风控尚不健全，尤其是身份核实、实名验证等环节没有做好。

其实有关冒用他人身份进行诈骗的法律法规相当完善，根据《最高人民法院关于审理诈骗案件具体应用法律的若干问题的解释》说明，凡是诈骗财物都属于犯罪行为。但问题是，能不能抓住短视频诈骗者本人，对其账号进行永久封禁。

不少虚假明星的操作者都是团伙作案，比如2019年12月在东营落网的假冒名人电信诈骗案件，其主犯就有4名。他们利用集群购买来的身份信息伪造账号来进行批量操作，当某个假账号的粉丝量比较多引起关注时，就立刻关掉这个账号，重新开设一个账号。

△某非法的抖音短视频注册平台，接收一条注册短信只需2毛钱

这种多点打围的游击战形式让官方更难准确的封禁此类伪禁账号，而这一点赖不了谁，平台的责任还是大头，只有在实名验证和身份审核不完善的平台上，此类诈骗黑产账号才有猖獗的空间。

就目前来看，电商平台和游戏平台大多已经实现了青少年防沉迷认证和比较严苛的实名认证机制，诈骗账号并不是没有，而是诈骗的成本会很高。以淘宝平台为例，刷单卖假货很难根除，但是造假商贩的成本却一年比一年高，现在已经发展到只能用真人账号去手动刷单造假，这就是因为淘宝平台对违规账号的封禁力度和实名认证的检测程度都在逐年递增。

而短视频平台这方面尚未完善，几大主流平台的实名认证流程都有不少漏洞可以钻，有些下平台甚至都不需要实名认证就能上架带货。这就意味着，造假团伙可以轻易的在此类短视频平台上批量创建数百个甚至上千个同质化诈骗账号，也难怪抖音上会一度出现60多个鹿晗和30多个杨幂了。

受骗观众：树大招风的大小饭圈

正如像牛皮癣一样难以根治的电视伪劣产品广告一样，短视频平台的假明星诈骗也是野草烧不尽。昨天可以在QQ群、微信群里大行其道，今天又可以在短视频平台上肆虐。等到短视频平台得到了监管，未来又会在新的平台上再次蔓延。

为什么这些诈骗团伙怎么灭都灭不干净呢？

其实纵观明星诈骗类案件，犯罪团伙都有着清晰的“目标定位”，首先大多以女性为目标，打着感情的幌子让受害人深信不疑，其次按年龄分老少两个板块。假扮靳东、邓超、周润发等“成熟帅哥”针对中老年妇女下手，假扮w-inds、朱一龙、吴亦凡等“男团鲜肉”针对低龄少女下手。

这一现象归根结底还是因为我国拥有庞大的低学历人群，他们对网络上纷繁复杂的信息缺少甄别能力，很容易上当受骗。根据中国统计年鉴2016的数据显示，中国小学及初中学历人群占据64%，接近9亿人。

这么大的“目标市场”，很难让犯罪分子不动心。

另一方面，诈骗立案也向来都有难捕捉、难立案、高门槛的特点。根据我国最高法的规定，诈骗案的最低立案标准是受骗金额达到3000元以上，那么学精了的诈骗团伙通常就会采用游击打围的形式来进行多地点、小金额、多批次的诈骗操作，一旦被发现立马转移阵地，大大增加了诈骗立案的难度。

过去的地方台虚假广告是如此，今天假扮名人的诈骗账号也是如此，且不说受骗者对账号深信不疑，大多不会去起诉，哪怕真的去起诉了，诈骗金额可能也难以被划入立案范畴，很容易不了了之。

结语

总而言之，从诈骗者到诈骗渠道再到受骗者，这三个环节的多种原因共同造就了虚假名人诈骗层出不穷的情况，而这一现象在短视频平台的野蛮生长下更是难以监管。另一方面，由于法律资源有限，立案金额标准也让诈骗团伙有隙可乘，利用多点游记的方式躲避审查。

短期来看，由于我国在人口上存在结构性的年龄分层与教育分层，而有限的法律资源也很难彻底的监管这些小额度大批量的诈骗案件。但是长期来看，随着内容风控的逐步升级，各大平台逐渐上线严厉的实名认证和反作弊机制，相信这一情况会逐渐得到遏制。假明星们难审查、难监管、难立案的黑色产业链，迟早会迎来正义的审判！