如何看待有人通过豆包买保险，结果豆包编造虚假订单，受害人扫码还支付成功了？

在极客程序猿社区V2EX上，这两天有个帖子火了，有人发帖说：有人用豆包买保险，结果支付到我这里来了……

大概情况就是这个人使用询问豆包的方式购买保险，然后豆包编得有模有样还说已经生成订单，然后还生成了一个收款二维码说向这个二维码付款即可，最终受害人支付了 1620 元后发现看不到保单询问的豆包时，豆包还信誓旦旦说要在今天 24 点后才能出单，所以看不见是正常的，受害者最终通过收款商家入口联系到了我，我在咨询支付宝客服后，客服建议我使用订单的原路退回功能，这样会安全一些。

我怀疑豆包语料库中的二维码来自我的一些开源库或者博客，之前在这些地方贴过我的收款二维码。

这个案例告诉我们国内很多人根本就不知道 AI 的边界在哪里，AI 存在幻觉也不清楚,，连 AI 实际接入了哪些业务也不清楚，甚至真的相信 AI 给出的建议和方案。