“三只羊”卢某录音系伪造，AI大模型成幕后黑手

AI技术普及带来便利同时，也引发安全、版权等问题。AI技术工具固然可以为人类带来诸多便利，但绝不能被滥用或误用。

@科技新知 原创

作者丨依蔓 编辑丨蕨影

三只羊卢某网传录音，竟是大模型伪造！

9月26日，安徽省合肥市公安局高新分局通报“三只羊”卢某某录音事件，通报中指出，经部、省专业机构检验鉴定卢某某的网传音视频系伪造，在犯罪嫌疑人王某某的电脑、手机和制作AI音频的网站中发现伪造相关音视频的证据。

值得注意的是，与“警方通报三只羊卢某某录音事件”同时登上热搜榜单的，还有“合肥通报三只羊问题调查情况”及“三只羊道歉”等相关事件。合肥市监局同时也发布了关于三只羊直播带货“香港美诚月饼”等商品存在问题的详细调查报告，并宣布将对三只羊处以没收违法所得、罚款总计高达6894.91万元的严厉处罚。

在此次事件中，AI伪造的卢某某相关录音在未得到充分核实之前，无疑给正处于舆论风口浪尖的三只羊带来了更大的压力。目前，王某某已被依法采取刑事强制措施，案件正在进一步侦办中。

突然间，伪造录音所触发的AI安全隐患激起了广泛的热议。

紧接着，卷入这一事件的科技企业发布紧急声明。9月27日，深圳市言域科技有限公司发布声明，确认涉案音频部分为嫌疑人使用该司自主研发的AI配音大模型平台克隆而成。公司已启动内部审核机制，强化用户身份认证和音频生成的安全管控，以确保技术的合法合规应用。

天眼查信息显示，深圳市言域科技有限公司成立于2023年，位于广东省深圳市，注册资本100万人民币。

就该案件中提供技术的公司是否要担责的问题，上海大邦律师事务所高级合伙人游云庭接受界面新闻采访时表示，还是要看该公司是否履行平台的合规责任。“根据互联网信息服务深度合成管理规定，如果履行了合规义务的，我觉得他们责任比较小，否则的话会有麻烦。”

伴随着人工智能科技的迅猛推进，AI技术已然广泛地深入到我们社会生活的诸多方面。然而，相伴而生的是越来越严峻的AI安全问题日益上升为人们关注的焦点。

今年6月，“男子用AI伪造学生同事近7000张裸照”冲上微博热搜。犯罪嫌疑人是一家国内互联网公司的技术员，巧妙运用AI技术中的“一键去衣”功能，深度伪造图片近7000张，每张1.5元卖出，从中获取了近1万元人民币的非法收益。

2024年年初，一家跨国公司香港分公司员工在参与一场视频会议时便陷入了不法分子精心策划的骗局。与会者都是经过AI 换脸与AI换声的诈骗分子，最终公司遭受了高达2500万美元的经济损失。

同样触目惊心的案例还发生在韩国首尔大学，毕业生朴某和姜某，从2021年7月至2024年4月的3年多里，盗用女性同学、熟人的照片，用深度伪造技术换脸合成色情制品，在Telegram上建立了近200个网络聊天室大肆传播，受害女性多达61人。

在瑞莱智慧算法科学家陈鹏看来，人工智能技术的快速发展使得AI换脸技术，以及多媒体编辑技术等变得简单，几乎人人都可以轻松掌握。

今年，多地公安机关发布了多起利用AI工具实施造谣的相关案件，其中最为引人注目的便是来自于某账号发布所谓的“西安突发爆炸”假新闻的涉事机构。经调查，该机构的负责人一共经营了5家“MCN机构”，运营账号842个，一天就能生成4000-7000篇文章，全程基本不需要人工参与。“西安爆炸”只是他众多“杰作”中的一个，却通过这些账号的转发热炒，演变成了公共事件，也导致机构翻车。

如今，AI文章已然形成了一条完整的产业链，其成本之低廉以及利润之丰厚令人瞠目结舌。使用一个国产AI，每篇AI文章的成本是人民币0.00138元，也就是说，只需要花费不到1分钱，就能够生成7篇这样的文章。以上述被查的机构为例，警方估算出的单篇文章平均收益为1.43元，每天的收入在1万元以上。成本和收益之间差距过大，一本万利。

如何确保这些由AI生成的内容的真实性、原创性和合规性，已经成为当前亟待解决的重要课题。AI技术的普及也加剧了版权侵权的风险，如何保护原创作者的合法权益，防止AI生成内容的滥用与侵权，成为了社会各界关注的焦点。平台尽管能对用户生成的内容进行“AI生成”等相关标注，但标注的删除操作也相对简单，对于AI内容的辨识效果不大。

针对利用AI进行违法行为等现象，中央民族大学法学院教授李梁上游新闻采访时表示，首先要对人工智能应用违法的侵权主体进行明确划分；其次要对人工智能应用违法责任（后果）分担机制进行构建；再次，在综合考虑法理及社会利益的基础之上进行科学立法，建立健全人工智能应用相关法律体系，推动技术研究及科学发展，加强监督监管机制。

技术创新的步伐不断加快，公众的观念意识也必须跟上时代的步伐。AI技术工具固然可以为人类带来诸多便利，但绝不能被滥用或误用。