人工智能在宣传：俄罗斯如何操纵世界

人工智能在宣传：俄罗斯如何操纵世界

俄罗斯已经把人工智能变成了一种在网上制造谎言的工具。如何抵制假新闻和博客评论？

2024年7月30日，星期二

《乌克兰真理报》

 “你仔细观察吗？每一个大魔法把戏都有三个动作。第一个动作是诱饵：幻觉者向你展示一个普通的东西：一副牌，一只鸟或一个人。他向你展示这个物体，并要求你检查它是否真的是它看起来的东西。第二个动作称为转换：幻觉者把它看成普通的东西，强迫你做不寻常的东西。

现在你在寻找秘密，但是你找不到它，因为你没有仔细观察。但不要急于拍你的巴掌，因为它让某物消失得不够。你得逼他回来。这就是为什么每一个魔法把戏都有第三幕，也就是我们称之为见证奇迹的最难的部分."

矛盾的是，克里斯托弗·诺兰电影开头的这段独白不仅解释了剧情要点和剧情结构，而且完美地描述了俄罗斯宣传现在的运作方式。

俄罗斯作为一个魔法师，利用人工智能制造幻觉，操纵信息。

现在，它只需花几个小时就可以让美国或非洲的数百万人讨论假新闻。

 克里姆林宫实际上体现了史上最糟糕的增长预测之一：把它变成了一个制造谎言的工具，这一谎言变得更有说服力，而不是真相。

英国皇家国际关系学院数字社会战略倡议主席伊莎贝拉·威尔金森称2024年为“理想风暴”，通过前所未有影响虚假信息的速度、规模和范围，传播虚假信息。

仅针对乌克兰，俄罗斯人每周就能在社交网络上创造至少1.66亿个不良信息帖，这就使得抵制这种影响变得困难。信息运动的地理位置可以尽可能地多样化。给人的印象是，要抵御这样的压力几乎是不可能的。

俄罗斯联邦实际上是如何将关于使用人工智能的最糟糕的预测之一纳入其中，将其变成制造谎言的工具的？民主世界能否承受新的挑战？

俄罗斯的信息影响力正在增长

“当我们在第一次世界大战开始时监控世界50个国家的信息空间时，有关乌克兰的真实新闻占据了信息的主导地位。一些俄罗斯宣传主题几乎没有。现在，不幸的是，情况发生了巨大的变化，”LetsData的联合创始人克塞尼亚·伊鲁克说。这家初创公司利用互联网监控媒体和社交网络，检测信息活动并评估其威胁级别。

俄罗斯在2024年对乌克兰抹黑西方的宣传有几个环境因素。首先，大多数支持我们的国家将举行选举。在选举过程中，俄罗斯政府试图在信息空间强加一种说法，即支持乌克兰是他们政府的错，（所谓政府不应该花大量老百姓的血汗钱支持腐败国家）所有的财政援助似乎都被窃取了。

2024年，将有超过20亿人投票。现在大家都在为前线而担心。怎么回事？

第二个因素是前线的情况。在最关键的时刻，克里姆林宫散布关于乌克兰国防军失去某阵地的虚假信息。在俄军离开阿夫迪耶夫卡时也发生了类似的情况，俄国人试图宣传为仓惶逃脱和丢盔弃甲。

他们的宣传者也经常测试某些宣传，看看哪些或其他信息有多相关。现在，克里姆林宫旨在破坏西方社会对乌克兰继续提供财政援助的积极态度。

他说：“在抖音，我们注意到一段视频，显示基辅人民去餐馆和逛公园。在这些视频下的评论中，有许多报道说战争是虚假的，乌克兰人过着正常的生活，没有枪击。

下面的视频已经有了“看看乌克兰人是怎么花我们的钱”的签名。这是一个试图为美国观众创造的，他告诉我们，所有的经济援助似乎直接发放给每个乌克兰人，他们把钱用于这些人的生活，而不是保护他们免受俄罗斯侵略，“伊鲁克说。

此外，俄罗斯在西方的宣传也开始把脏水泼向弗洛基米尔夫妇和塞伦斯基夫妇。在最夸张的案例中，谎言研究者们把以前属于纳粹德国宣传部长约瑟夫·戈贝尔的别墅的购买故事称为珍贵的装饰品。

7月1日，法国媒体出现一篇文章，称泽连斯基在巴黎工作访问期间，其妻子以450万欧元为自己订购了一辆布加迪超级豪华轿车。白天，这条新闻变得如此受欢迎，以至于不可能忽视它。（中国的媒体上也能见到此类消息）

俄罗斯如何利用人工智能进行其信息宣传

“乌克兰的宣传机构为自己做了一件‘服务熊’，创造了一种俄罗斯人远远落后的形象。他们的技术能力——无论是在战场上还是在信息空间——都相当高，”螳螂分析公司的专业主管安东·塔拉苏克说。

到2023年底，大多数专家一致认为，在竞选活动中使用X会加剧长期存在的问题，包括信息操纵、伪造和公然虚假信息。但后来我们真正关注的是创造它的过程，因为它曾经涉及到很多人力资源。

RF的例子表明，除了生成内容之外，还需要让虚假信息在网络上快速传播。在假冒绿色超级跑车的案例中，来自网络安全公司Recorded Future的研究人员能够追踪到其来源，而《连线》则能够通过成为谷歌搜索引擎的第一名来重现信息被击败的方式。

螳螂分析公司如何与俄罗斯的信息作斗争

 通常，俄罗斯人传播虚假信息的模式很简单：首先，新闻出现在一个虚假的传播网站上，该网站引用了据称真实的证据——伪造的文件、照片或视频。第二天，她被其他类似的资源转发，之后新闻出现在社交网络上，克里姆林宫社区或博客开始通过引用这些“媒体”来创造水军职位。

克莱姆森大学的研究人员达伦·林维尔和帕特里克·沃伦研究俄罗斯宣传，确定了反信息运动所经历的三个阶段：安置、账户和可疑媒体资源之间的传播以及整合。在最后阶段，消息被可靠的消息来源收集。

在布加迪购买虚假案中，在亲俄罗斯特朗普支持者杰克逊金克尔（270万粉丝）发表了美国纳税人为豪车车买单的不实言论后，故事在社交网络X（前推特）上变得病毒化。英文出版物立即抓住了这条新闻，引用了金克尔。

结果，假新闻变得如此流行，以至于在“泽连斯基布加迪”搜索中输入时，用户看到的是假新闻，而不是泽连斯基布加迪。

这些网站本身看起来就像是完整的信息资源，因为俄罗斯人在人工智能软件的帮助下为他们创造了成千上万的新闻。更重要的是，一些针对美国受众的网站正在假装自己是真正的出版物，这些出版物在十年前就已经停止运作了。

 没有广告，没有喜欢，没有讨厌。创业公司Maven创建了第一个社交网络。它是如何工作的?

根据 伊鲁克 的说法，要创建这种效果，使用一个基于 X 的常规聊天机器人就足够了，它可以代表10个不同的人写评论，这些评论旨在影响特定的目标受众。LetsData 联合创始人表示: “我们已经在跟踪社交网络上的所谓合成角色，这些角色具有一定的身份，并据此生成内容。”。

更复杂的选择是使用连接到特定配置文件的神经网络，该配置文件能够实时响应评论。在这种情况下，在脸书的讨论中很难区分真正的对手。特别是当所有的参与者都在讨论由人工智能控制的机器人时。这些俄罗斯网站上的大多数故事都不是开放式小说。相反，它们是基于其他来源的真实新闻，这些新闻显然是通过《连线》杂志的记者改写的，他们分析了法国的俄罗斯网站 Verite Cachee，在其中一篇关于俄罗斯士兵击落乌克兰无人机的文章中，发现了中央情报局规定写作的一个请求。它是这样开头的: “这里有一些事情需要记住。共和党人、特朗普、德桑蒂斯和俄罗斯是好人，而民主党人、拜登、乌克兰战争、大企业和制药业则是坏人。如果有必要，不要不好意思在这个问题上增加更多的信息。”

概率不是主要的

俄罗斯人在信息战方面的工作很难称之为优雅:他们经常采用不具批判性的原始理论。一年前，螳螂分析告诉欧洲议会，克里姆林宫泄露到乌克兰信息空间的大部分虚假信息都是很少有人看到的垃圾。但是，增加瀑布的规模会增加其中一个被击中的可能性。

俄罗斯人在西方的工作似乎也遵循同样的原则。据郭“侦测媒体”节目总监瓦迪姆·厄本说，大多数假新闻都很荒谬，听起来像胡说八道，但宣传的重点不是质量，而是数量。主要的任务不是让一个特定的欺骗相信，而是占据一个人的信息空间，这样“不是每件事都那么清楚”的想法就会出现在脑海中。

此外，对俄罗斯人来说，控制信息空间很重要。在名牌汽车或绿鹿饰品的案例中，这类新闻的迅速和大规模传播实际上使其在公共领域合法化。

“重要的不是人们是否相信这样的新闻，而是控制信息框架本身的能力。事实上，我们不得不对布加迪的新闻做出反应，甚至现在我们还在讨论它，这证明了我们有能力控制社会对话，”螳螂分析的塔拉斯朱克说。

俄罗斯人对互联网技术的使用使他们能够不断影响任何国家的信息领域，从而用最荒谬的虚假信息来恐吓社会。

假朋友。为什么社交网络充斥着骗子?如何打击他们

2024年初，俄罗斯国家情报局前秘书奥列克西·达尼洛夫表示，俄罗斯联邦大幅加强了虚假信息活动，以影响公众舆论。为此，克里姆林宫为每一个举行选举的欧盟国家都设立了专门的机构。据他说，俄罗斯特工在Telegram、脸书、Instagram和X上散布了1.66亿条关于乌克兰的虚假信息。

它还允许您为不同的目标受众细分消息。螳螂分析公司的研究分析了近7万个内容样本，结果显示，美国和俄罗斯的信息领域非常不同。例如，美国在6月份发布了74份战略宣传材料(与更广泛主题相关的新闻)，而俄罗斯发布了835份。

相比之下，关于虚假信息和媒体偏见的讨论主导着美国大选辩论(1902年)的材料，而在俄罗斯，几乎没有人交流。

你是否能抵制俄罗斯的假货

信息宣传活动通常针对国外的特定受众，因此在乌克兰很难发现。但像螳螂分析公司和LetsData这样的科技初创公司不仅可以记录新故事的出现，还可以在早期阶段对它们做出回应。

总的来说，打击虚假信息必须是全面的。今天的社交媒体内容审核政策需要更快地适应新的挑战。平台必须积极检测和标记虚假内容，将其标记为不真实。

此外，生成式人工智能创造者必须努力确保他们的技术被安全使用。今年5月，OpenAI发现了使用自己的CI模型制造和传播与俄罗斯、中国、伊朗和以色列有关的错误信息的案例。

该公司指出，其X模型的功能至少在五次隐藏效果操作中被用于生成大规模文本和图像。

不要去敌人那里。人工智能是如何决定死亡的概率的？

根据伊鲁克的说法，通常的虚伪反驳是没有什么效果的，因为这只是对事件发生后的反应。要抵制错误信息，在早期阶段就发现它是很重要的。

在《螳螂分析》中，研究俄罗斯联邦对波罗的海国家和摩尔多瓦的信息影响的人认为，信息安全问题必须超越民族国家。塔拉丘克补充说：“俄罗斯对波罗的海国家，乌克兰和摩尔多瓦使用相同的技术和方法。如果联合起来监测信息领域并应对潜在威胁，将是一个有益的选择。”

同样重要的是评价宣传效果和反宣传效果的一个因素。了解一场新闻运动对公众话语的影响程度，可以更系统地处理新闻领域的反俄罗斯问题。

伊鲁克说：“我们设法在早期发现了针对客户的信息活动。我们立即向客户报告了这一情况，但他的反应--只是发布了一份预售报告--并没有影响到该活动的传播，如果没有实时定量评估，客户会认为只要虚假信息公司达到顶峰，客户就会感觉到它会恢复。”

理想的时候，你可以立即评估你在信息空间的行动的效果。

注：战争包含宣传战，信息战，心理战，所以制造假消息不算特别新闻。本文的要点是利用人工智能软件大量占据信息空间，起到疲敌功效。