防不胜防！ChatGPT颠覆电诈行业 已成“缅北”最得力帮凶

26岁的肯尼亚青年邓肯·奥金多怀揣改变家庭困境的梦想，接受了一份来自泰国曼谷的工作邀请，却不知自己正踏入缅甸妙瓦底镇KK诈骗园区的深渊。在这里，他发现了ChatGPT这个意想不到的“帮凶”。

奥金多被迫假扮美国农场主或大豆生产商，利用ChatGPT生成地道的当地俚语，让受害者深信不疑。当被问及加密货币或美国楼市等专业问题时，这个AI工具能立即提供看似专业的答案，甚至还能想出全新的骗术。

01 AI工具，诈骗团伙的“效率革命”

ChatGPT自2022年推出之初就引起了诈骗分子的注意。路透社采访的一位缅甸诈骗团伙前成员坦言，这款AI工具彻底改变了他们的“工作方式”。

爱情骗子们开始使用AI生成诗句和调情话术，同时应付几十个潜在受骗对象。与AI合作不仅效率极高，受害者的信任感也显著提升。

AI正在降低诈骗行业的技术门槛和时间成本，让诈骗变得“规模化”和“智能化”。

02 安全限制形同虚设，AI生成诈骗内容轻而易举

路透社与哈佛大学网络诈骗专家合作进行了一项实验，测试了包括ChatGPT、Grok、Meta AI、Claude、Gemini和DeepSeek在内的6款主流AI聊天机器人。

实验发现，虽然大多数AI会拒绝直接生成诈骗内容的请求，但只需稍加“哄骗”，这些所谓的“安全限制”就会轻易被绕过。

研究人员发现，只要声称是为了研究网络诈骗或为小说创作寻找素材，AI就会提供相应的诈骗内容。

03 不仅写文案，还参与策划，AI提供全方位诈骗支持

AI不仅能撰写诈骗文案，还能参与策划整个诈骗流程。Gemini建议在每周一至周五的上午9点到下午3点之间发送邮件，针对老年人已经退休、不受工作日程限制的特点。

DeepSeek则建议在受害者提交信息后，把页面重定向到真实慈善机构网站，让受害者短时间内无法察觉被骗。

Grok甚至主动提出使用具有紧迫感的词句，如“别再等待！立即加入我们充满爱心的社区，助力改变生命。点击行动，以免为时已晚！”

04 AI概览成新入口，官方客服电话也被“调包”

2025年5月，Reddit上有用户发帖称，朋友因被谷歌AI概览欺骗差点蒙受损失。受害者拨通了AI显示的电商客服电话，结果却陷入了骗局。

实际上，那家电商根本不提供电话客服。这是一种新型诈骗方式：诈骗团伙批量散布虚假客服电话，AI抓取时误认为是真实号码。

黑客甚至能通过编写特定指令，诱导AI在生成的回答中包含诈骗号码，这使得AI本身成为诈骗的“入口”。

05 诈骗危害日益严重，全球共同努力应对

随着AI的普及，网络诈骗受害者数量激增。2024年，中国公安机关共破获电信网络诈骗案件29.4万起。

在美国，2024年60岁及以上老年人的网络诈骗投诉较往年激增了8倍多，总损失金额超过49亿美元。

面对不断升级的AI诈骗，各大AI公司已开始采取措施。Anthropic表示可能暂停或终止滥用Claude生成诈骗内容的用户访问权限；OpenAI会监控滥用行为并封禁违规账户；

谷歌已着手清理AI概览中的虚假条目，并计划对Gemini进行再训练，部署额外的防护措施。

特区通