就离谱！AI马斯克深夜直播，引万人在线围观打赏
量子位官方账号一水 发自 凹非寺
量子位 | 公众号 QbitAI
马斯克“深夜直播”，引上万人在线围观打赏，甚至开启网友连麦…
一边手舞足蹈模仿火箭发射，一边捏捏小脸蛋自证身份。
开个玩笑，这活灵活现的马斯克，根本不是马斯克本马！
而是使用了最新Deepfake深度伪造技术：
只需一张照片，就能换脸搞直播。
这下，连老人都能用AI直播挣钱的时代终于降临了，网友在线震惊脸：
在我印象中深度换脸还只是一个科幻概念，而现在我们正在直播它们！
也有人连连感慨，AI发展过于迅猛，现实世界已真假难分了。
AI换脸越来越6了
除了搞直播，马斯克个人TikTok账号也流出了？！
晚上下班在车里给大家嗨一曲，顺便无缝安利下自己的特斯拉座驾…
Genius，这点赞收藏数真的很难让人怀疑账号真实性。
甚至有网友在线调侃，“假”马斯克看起来比真人更有魅力hhh。
以上均来自如今大热的Deepfake深度伪造技术。
因为“1张照片就能偷走你的脸去直播”，相关项目截至目前已在GitHub狂揽3w+星标。
事实上，除了近期这个比较火的开源项目，深度换脸技术其实一直在默默发展。
这不，经马斯克直播一事，有网友就想起了两年前油管上的一个教程。
在这个视频中，网友手把手分享了如何使用另一个开源换脸项目。
看得出来，两年前人物表情还有点僵硬，而现在的真实程度已经再上台阶了。
国外也需要反诈APP
但是，随着Deepfake技术愈发成熟，电信诈骗也升级了。
之前就有这样一个活生生案例——
据纽约时报消息，美国一位82岁退休老人由于误信AI马斯克，超过69万美元的退休金打水漂了。
诈骗分子用AI制作了马斯克宣传投资机会的视频，老人看到后联系了视频中的公司，并在几周内把钱投了进去，结果公司最后卷款跑路了……
与此同时人们还发现，AI诈骗视频似乎尤为“偏爱马斯克”。
监测深度伪造视频的机构Sensity最近做了一项调查，通过分析2000多段深度伪造视频，发现了：
自去年年底以来，马斯克出现在近1/4的深度伪造诈骗视频中，其中针对加密货币的视频出现率更是达到90%。
更可怕的是，只需要不到10美元，就能在几分钟时间内制作出大量伪造视频。
难怪有网友在AI马斯克视频下警惕发问：
事实上，一些平台也针对深度伪造视频出台了一些对策。
比如今年3月，油管就更新了政策，要求创作者披露他们是否使用了AI进行创作，并禁止欺诈和篡改视频。
它在一份声明中提到，今年1-3月期间，删除了超过1570万个频道和超过820万个违反内容政策的视频。
但假视频仍然如春风野火烧不尽……只是Deepfake马斯克这事儿，就火了不止一次。
不过也有网友表示，快乐就完事了！
参考链接：
[1]https://x.com/AISafetyMemes/status/1828311798057181461
[2]https://x.com/julesterpak/status/1828133599088165345
