“布拉德·皮特”骗走法国女子620万！这种骗局，连泰国总理都差点上当
最华人官方账号
作者：徐十一
“镜头对面的人也许不是人。”
这是近期反诈宣传最常听到的一句话。
这是什么意思？
原来AI诈骗已经席卷全球，一张照片，一段音频，就能合成出各式各样的视频。
最近，法国一女子甚至因为AI诈骗，误以为著名影星布拉德·皮特“爱上我”而和富豪丈夫离婚。
2023年2月，安妮和家人度假期间曾专门开通了一个社交账号，没过多久平台有人对她大肆夸赞，还留言：我儿子就应该娶你这样的女人才对。
随后这位儿子登场，开始给安妮发私信，声称自己是布拉德·皮特，在母亲那里认识了安妮，想要进一步了解她。
● 安妮与山寨布拉德·皮特的聊天记录
为了证明自己是布拉德·皮特本人，对方还给安妮发过一张皮特手举“Anne I love u”的纸条。
● AI布拉德·皮特手举“Anne I love u”的纸条
之后她又陆续收到了“布拉德·皮特”的护照照片、来自他经纪人的私信保证，还有各种他的照片和视频。
安妮开始对此深信不疑。
所以当“布拉德·皮特”说，他为安妮准备了昂贵礼物，但是需要她先给一个账户汇款9000欧元的时候，安妮立刻转了。
甚至因为“布拉德·皮特”的存在，她还和度过了半生的富豪丈夫离了婚，收到了77.5万欧元的赔偿金。
但这些钱都被对方以生病为由，让安妮转账过去。前前后后安妮一共转了83万欧元（约合人民币624万元）。
● AI布拉德·皮特以看病为由诈骗安妮83万欧元
结果等来的，却是真正的皮特官宣和新女友的恋情，安妮这才意识到上当受骗。
现如今，AI诈骗已经成为最大且最有隐患的诈骗手段之一，就连泰国总理都差点上当受骗。
● 安妮在给媒体展示山寨皮特发来的合成图
泰国总理开年就犯水逆，前脚因为搅合进缅甸园区事件，导致泰国旅游率暴跌。
这边还没想出什么办法解决，后脚就差点被人诈骗巨额交易。
1月15日，泰国总理佩通坦在2026年财年预算政策会议上透露：
自己日前亲身经历AI制造的骗局。
她表示，诈骗分子当时通过聊天应用向她发送了一段语音信息，对方借助了AI技术模仿东盟国家领导人的声音，并试图代表其“国家”进行募捐。
● 图片来源：微博@世面
但当时佩通坦并未响应。
随后，在当晚23时诈骗分子再次联系上佩通坦，恰好佩通坦已经休息，便在隔天一早给对方致歉。
对方随即再次给佩通坦发了一条语音消息，内容是：请求佩通坦进行募捐，同时还声称她是东盟国家的官员，但仍未捐款。
● 图片来源：微博@世面
这是为她量身定做的骗局，不管是对方的声音还是语音特有的环绕音都极其真实。
即便是见多识广的总理也难以挣脱。
佩通坦虽然当时察觉有些不对劲，但还是到了付款界面，直到发现对方提供的银行账户并不属于诈骗分子所说的国家，才确定遇到了诈骗。
她立刻指示相关官员进行调查此事，并同步公开信息，借此提醒民众们要保持警惕。
● 图片来源：凤凰卫视
这条信息，让人不禁头皮发麻。
AI诈骗如今到底猖狂到何种境地？竟连一国总理都被玩弄在股掌之间？
其实早在去年，AI诈骗就初见苗头。
2023年年初，跨国公司arup的香港分公司中，有一名员工收到了一封会议邮件。
邮件中邀请他参加总部高管发起的重要会议。
● 图片来源：央视网
他当即点击邮件中的链接加入会议。
视频会议极其正规，该公司包括CFO在内的多位高管人员全部在场。
他们就“收购”问题开始激烈讨论。
会后，高管们向他下达了工作指令：要求他将1.95亿港元（约合人民币1.8亿元）分别汇入5个账户之中。
员工当然不会质疑领导，当即进行操作。
结果事发后5天，他才和总部在汇报工作时发现自己上当了。
那场会议中，除了他之外竟然都是AI换脸的诈骗犯，他是现场唯一的“真人”。
● 图片来源：央视网
据香港警方的通报，诈骗分子在社交软件等渠道获取了公司高管人员的视频和音频信息。
随后利用deepfake技术制作出相应的虚拟人物，最后开启会议，以“领导”身份向员工下达指令。
多人合力，最终完成了一起涉案金额巨大的AI诈骗案。
好一场偷天换日的骗局。
更可怕的是，这不是第一起，也不可能是最后一起。
去年，英国也饱受AI诈骗困扰。
英国警察丹尼斯在facebook上和一名叫杰西的女性热恋，却不知道每天和他亲密交谈的爱人背后竟然是个男人。
在对方的要求下，丹尼斯先后给对方转了13万美金，最终骗局曝光，丹尼斯不堪受辱，最终选择了自杀。
● 丹尼斯·琼斯
而在他之前，英国的外交大臣卡梅伦也险些成为受害者。
对方利用AI换脸技术把冒充乌克兰前总统波罗申科，以假乱真到卡梅伦和对方打开视频电话都没发现端倪。
直到对方索取重要信息时才觉察出问题。
甚至连哈里王子、波兰总统、意大利总理、FBI犯罪专家等人都遇到过AI诈骗。
而在我国此类案件也在逐渐发酵，愈发严峻。
去年10月，香港警方捣毁了一个规模庞大的跨境诈骗集团，拘捕27人，涉案金额高达3.6亿元。
● 图片来源：星岛头条
“通过AI，7秒诈骗30万。”
“通过AI，十分钟诈骗320万。”
......
类似的新闻层出不穷。
据《2024人工智能安全报告》显示，2023年国内基于AI的深度伪造欺诈增长了3000%。
仅2024上半年，AI欺诈案值就超过了1.85亿元。
多么庞大而可怕的数字。
谁能想到，AI的出现，本来是为了让人们的生活更便捷，但发展到今天，却变成了诈骗分子的秘密武器。
为什么这类诈骗会扩展速度如此之快？
因为门槛低，且方法简单。
有博主曾经实操过，只需要一张照片或者一段视频，用软件进行克隆，再输入文案勾选音色，就会自动生成诈骗分子所需要的视频。
● 某软件生成的AI换脸照片
几乎就是傻瓜式操作。
更可怕的是，诈骗财物并不是这件事最可怕的事情。
它甚至可以应用在任何地方。
曾经的顶流网红井川里予就被坑害过，她被人用AI换脸，变成了色情视频的女主角。
一时之间信息在网上传得沸沸扬扬，井川里予从“女神”一夜沦为“荡妇”。
而井川里予作为受害者，还要站出来举证：这条视频不是她。
● 网红“井川里予”出面辟谣
类似的情况不在少数。
地铁女孩被偷拍，AI一键换装就让女孩成了在地铁裸奔的怪咖。
某男生直接把女同学P进小视频里挣钱。
还记得去年韩国大批女孩在微博发帖，向中国网友求救吗？
就是韩国男生利用AI技术给全韩一半以上的适龄女孩造黄谣，继而进行霸凌、猥亵。
● 韩国女孩向中国求助。图片来源：微博@nosunae_520
犯罪的成本一再压缩，而受害人自证的成本却不断拔高。
更可怕的是，如果将AI技术应用于拐卖呢？
淄博警方曾经发布过一个反诈视频。
视频中，一名女子来到小女孩的身边，说：“是你爸爸让我来接你的，不信我让爸爸和你说。”
小女孩本来很疑惑，也不太相信，但女子随即打开手机，镜头前出现的正是小女孩的爸爸。
“我让阿姨去接你了，快让阿姨开车带你过来吧。”
● 图片来源：淄博警方
小女孩随即放下顾虑，很自然地跟着女子走了，殊不知这就是人贩子。
前前后后只用3分钟的时间，就能拐走一个孩子。
细思极恐。若AI技术再往前发展，到那个时候拐卖人口、拐卖至传销等犯罪窝点的途径岂不是简之又简？
之前比较粗糙初级的AI换脸确实有迹可循，比如说视频会出现明显卡顿，把手放在面前滑动就会出现掉帧。
● 图片来源：央视网
如果和对方对话，还会发现它答非所问。
但现在的AI技术又精进了不少。
不管你是用手动脸，还是和对方对话，视频都自然顺畅，只靠这些视觉的效果很难识别到底是真人还是骗局。
● AI网站的最新技术展示中，和数字克隆人实时聊天已成为现实
那么真的就没办法自救吗？
当然不是。
AI骗局或许猖獗，但只要提前做好应对准备就能击破危机。
AI诈骗最常见的形式，就是通过视频或者语音伪装身份，要求受害者去做某些事情，多数是冒充亲人、工作合作伙伴以及朋友等。
那么如何破局？就是不要轻信任何未经当面核实过的借钱信息。
不管对方是你的至亲好友，还是领导上司，必须要和对方见面确认，确有其事后再决定是否借钱，必要时设置延迟到账方便追回。
如果不方便见面，也要约定一个行之有效的暗号。
比如淄博警方的宣传视频中，小女孩海鲜过敏，当扮演人贩子的演员掏出手机给小女孩看时，小女孩追着问了一句，“那爸爸我们今天还吃螃蟹吗？”
● 图片来源：淄博警方
视频那头的人说，“是啊 ，就吃那个。”小女孩就能立识破视频对面的人不是爸爸。
这招不仅能有效规避钱财损失，也能保证人身安全。
如果觉得暗号太麻烦，也可以考虑某个指定动作。总之就是要掌握对话的主动权，而不是被对方牵着鼻子走。
至于造黄谣的问题，想对所有人说，不要觉得此事和我无关而事不关己高高挂起。
技术如此先进，你、我、她、他，每一个人都有可能在下一秒就成为视频的主角。
而原因千奇百怪，嫉妒、口角、利益，甚至有可能只是单纯的恶搞。
● 网红“井川里予”深陷造黄谣风波
而我们，防不胜防。
似乎能做的就只是减少自己在公开平台的暴露频率，类似换脸特效或是小程序尽量不要点开。
清晰五官以及暴露个人生活细节的照片尽量不要上传。
这不是受害者有罪论，而是事态严峻，危机重重之下给自己谋求的一条保险。
但如果你正面临这种境地，也要记住：错的人不是你，别害怕，别退缩。
大胆找警方求助，保留所有证据线索，必要时可以寻求法律的帮助。
大大方方做事，坦坦荡荡做人。
写到最后，忍不住怀念起AI刚刚盛起的时候。
有人将这个技术应用在了《逆水寒》游戏当中，玩家们开始在游戏里复活他们的亲人。
一位玩家的父亲突发心梗去世，她就在游戏中利用AI技术捏造了她的父亲。
设定了相同的性格，名字也用了她父亲使用了20多年的网名。
● 图片来源：网游《逆水寒》
从此，不用梦中相见，只要她一转头，就能看到父亲站在她的身后，显示对方正在追随中。
他们会一直在庄园等待玩家回来，就像人还在一样。
是AI让他们在平行世界中，再度和亲人相聚，此刻AI具象化成了爱。
而这，或许这才是AI存在的意义和价值。
至少，不该让它助纣为虐，成为犯罪分子违法犯罪的帮手。
● 参考资料
[1] 环球网丨泰国总理：我差点被骗
[2] 广州日报丨警惕！有老人被骗495万，这类视频不要接，不要信，提醒家人
[3] 平安芜湖丨眼见、听见不等于真实，这种诈骗成功率接近100%
[4] 中国新闻社丨警惕！AI诈骗正在全国爆发
[5] 央视网丨张文宏带货？多人受骗，这种套路要警惕
[6] 智东西丨AI马斯克，1分钟骗走几十万
[7] 淄博警方丨三分钟就可以拐走一个孩子
[8] 腾讯研究院丨AI诈骗的终极形态
[9] 英国报姐丨法国富婆儿网恋布拉德·皮特？为他离婚还送上627万赡养费，新闻曝光网友绷不住了：姐，是AI…
